Securing Agentic Artificial Intelligence (AI) systems requires addressing the complex cyber risks introduced by autonomous, decision-making, and adaptive behaviors. Agentic AI systems are increasingly deployed across industries, organizations, and critical sectors such as cybersecurity, finance, and healthcare. However, their autonomy introduces unique security challenges, including unauthorized actions, adversarial manipulation, and dynamic environmental interactions. Existing AI security frameworks do not adequately address these challenges or the unique nuances of agentic AI. This research develops a lifecycle-aware security framework specifically designed for agentic AI systems using the Design Science Research (DSR) methodology. The paper introduces MAAIS, an agentic security framework, and the agentic AI CIAA (Confidentiality, Integrity, Availability, and Accountability) concept. MAAIS integrates multiple defense layers to maintain CIAA across the AI lifecycle. Framework validation is conducted by mapping with the established MITRE ATLAS (Adversarial Threat Landscape for Artificial-Intelligence Systems) AI tactics. The study contributes a structured, standardized, and framework-based approach for the secure deployment and governance of agentic AI in enterprise environments. This framework is intended for enterprise CISOs, security, AI platform, and engineering teams and offers a detailed step-by-step approach to securing agentic AI workloads.


翻译:保障智能体人工智能(AI)系统的安全需要应对由自主性、决策性和适应性行为引入的复杂网络风险。智能体AI系统正日益广泛地部署于各行业、组织及关键领域,如网络安全、金融和医疗保健。然而,其自主性带来了独特的安全挑战,包括未经授权的行为、对抗性操纵以及动态环境交互。现有的AI安全框架未能充分应对这些挑战或智能体AI的特殊复杂性。本研究采用设计科学研究方法,专门为智能体AI系统开发了一个生命周期感知的安全框架。本文介绍了智能体安全框架MAAIS以及智能体AI的CIAA(机密性、完整性、可用性和可问责性)概念。MAAIS集成了多层防御机制,以在整个AI生命周期中维护CIAA。通过与既有的MITRE ATLAS(人工智能系统对抗性威胁态势)AI战术进行映射,完成了框架的验证。本研究为企业环境中智能体AI的安全部署与治理提供了一种结构化、标准化且基于框架的方法。该框架面向企业首席信息安全官、安全团队、AI平台团队及工程团队,并提供了保障智能体AI工作负载安全的详细分步方法。

0
下载
关闭预览

相关内容

人工智能杂志AI(Artificial Intelligence)是目前公认的发表该领域最新研究成果的主要国际论坛。该期刊欢迎有关AI广泛方面的论文,这些论文构成了整个领域的进步,也欢迎介绍人工智能应用的论文,但重点应该放在新的和新颖的人工智能方法如何提高应用领域的性能,而不是介绍传统人工智能方法的另一个应用。关于应用的论文应该描述一个原则性的解决方案,强调其新颖性,并对正在开发的人工智能技术进行深入的评估。 官网地址:http://dblp.uni-trier.de/db/journals/ai/
Pytorch多模态框架MMF
专知
50+阅读 · 2020年6月20日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
46+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Arxiv
0+阅读 · 12月23日
VIP会员
相关基金
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
7+阅读 · 2015年12月31日
国家自然科学基金
46+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员