机密计算保障人工智能系统安全研究报告

大模型时代的安全需求 　　新一代AI逐渐渗透到了各行各业，在显著提高生产力和效率的同时，也带来了前所未有的安全挑战，亟需建立一个涵盖各个层次的AI安全框架，有效控制AI安全风险 　　AI安全现有解决思路的局限 　　现有AI安全解决方案主要集中在数据安全、算法安全和模型安全三个层级，常见的措施包括模型加密、对抗样本检测、差分隐私等，一定程度上提高了安全性，但应对更复杂的安全威胁时往往显得力不从心。 　　越来越多企业在云服务上进行AI训练和推理现有的安全解决思路通常假设云服务本身是可信的，忽视了其可能存在的风险使得AI系统在云服务环境中的安全性面临严峻挑战 　　现有方案在保护用户隐私数据传输方面存在不足，TLS协议缺少端到端的用户隐私数据保护 　　用户的隐私数据可能会被不可信的AI服务获取，从而导致敏感数据的泄露 　　在系统层面，特别是对操作系统、硬件以及云服务等关键软硬件和服务的保护上，安全性往往容易被忽略或未能得到应有的重视 　　系统层的薄弱环节可能导致整个系统的安全性失效