《基于智能体的无人机蜂群在人工智能攻击下的风险分析》博士论文

人工智能（AI）和机器学习（ML）领域发展迅速。新模型、新技术和新算法层出不穷。尽管人们对人工智能和 ML 的研究兴趣与日俱增，但从确保人工智能系统安全的角度来看，却缺乏可用的研究文献。本研究旨在利用 AnyLogic 建模工具包提供一个基于智能体的探索性模型，以便在评估军事物联网（IoMT）环境中运行的无人机遭受人工智能对抗性攻击的风险时，确定无人机 ML 加固级别与无人机操作员网络安全专业知识水平之间的关系。所设计的模型模拟了一个无人机蜂群网络，在该网络中，对手和无人机操作员（防御者）共存并相互作用。该模型允许在多种场景下测试和评估无人机抵御人工智能对抗攻击的安全性，并生成指标和可视化数据，以深入了解无人机的网络安全态势。该模型由 20 架无人机和四个智能体（环境、无人机、对手和操作员（防御者））组成。在模拟中，无人机的 ML 加固参数值在 0、0.5 和 1 之间变化，操作员的网络安全专业知识水平参数值在 "无专业知识"、"中等专业知识 "和 "高专业知识 "之间变化。研究人员模拟了九种不同的场景实验，发现当无人机的 ML 加固值为 1，且操作员的网络安全专业知识为 "高专业知识 "时，无人机蜂群任务完全成功。