针对自动驾驶智能模型的攻击与防御

近年来，以深度学习算法为代表的人工智能技术为人类生产生活的方方面面带来了巨大的革新，尤其是 在自动驾驶领域，部署着自动驾驶系统的智能汽车已经走进人们的生活，成为了重要的生产力工具．然而，自动驾 驶系统中的人工智能模型面临着潜在的安全隐患和风险，这给人民群众生命财产安全带来了严重威胁．本文通过 回顾自动驾驶智能模型攻击和防御的相关研究工作，揭示自动驾驶系统在物理世界下面临的安全风险并归纳总结 了相应的防御对策．具体来说，本文首先介绍了包含攻击面、攻击能力和攻击目标的自动驾驶系统安全风险模型． 其次，面向自动驾驶系统的三个关键功能层———传感器层、感知层和决策层，本文依据受攻击的智能模型和攻击手 段归纳、分析了对应的攻击方法以及防御对策，并探讨了现有方法的局限性．最后，本文讨论和展望了自动驾驶智 能模型攻击与防御技术面临的难题与挑战，并指出了未来潜在的研究方向和发展.