联邦学习安全与隐私保护研究综述

数据孤岛以及模型训练和应用过程中的隐私泄露是当下阻碍人工智能技术发展的主要难题。联邦学习作为一种高效的隐私保护手段应运而生。联邦学习是一种分布式的机器学习方法，以在不直接获取数据源的基础上，通过参与方的本地训练与参数传递，训练出一个无损的学习模型。但联邦学习中也存在较多的安全隐患。本文着重分析了联邦学习中的投毒攻击、对抗攻击以及隐私泄露三种主要的安全威胁，针对性地总结了最新的防御措施，并提出了相应的解决思路。