【重磅】联邦学习进展与开放问题万字综述论文，58位学者25家机构联合出品，105页pdf438篇文献

联邦学习（Federated Learning）是一种新兴的人工智能基础技术，在 2016 年由谷歌最先提出，原本用于解决安卓手机终端用户在本地更新模型的问题，其设计目标是在保障大数据交换时的信息安全、保护终端数据和个人数据隐私、保证合法合规的前提下，在多参与方或多计算结点之间开展高效率的机器学习。其中，联邦学习可使用的机器学习算法不局限于神经网络，还包括随机森林等重要算法。联邦学习有望成为下一代人工智能协同算法和协作网络的基础。最近来自斯坦福、CMU、Google等25家机构58位学者共同发表了关于联邦学习最新进展与开放问题的综述论文《Advances and Open Problems in Federated Learning》，共105页pdf调研了438篇文献，讲解了最新联邦学习进展，并提出大量开放型问题。

摘要

联邦学习(FL)是一种机器学习设置，在这种设置中，许多客户(例如移动设备或整个组织)在中央服务器(例如服务提供商)的协调下协作地训练模型，同时保持训练数据分散。FL体现了集中数据收集和最小化的原则，可以减轻由于传统的、集中的机器学习和数据科学方法所带来的许多系统隐私风险和成本。在FL研究爆炸性增长的推动下，本文讨论了近年来的进展，并提出了大量的开放问题和挑战。

目录

1 介绍

• 1.1 跨设备联邦学习设置
• 1.1.1 联邦学习中模型的生命周期
• 1.1.2 典型的联邦训练过程
• 1.2 联邦学习研究
• 1.3 组织

2. 放宽核心联邦学习假设:应用到新兴的设置和场景

• 2.1 完全分散/点对点分布式学习
• 2.2 跨竖井联邦学习
• 2.3 分离学习

3. 提高效率和效果

• 3.1 联邦学习中的非iid数据
• 3.2 联邦学习优化算法
• 3.3 多任务学习、个性化和元学习
• 3.4 为联邦学习调整ML工作流
• 3.5 通信与压缩
• 3.6 适用于更多类型的机器学习问题和模型

4 .保护用户数据的隐私

• 4.1 深入研究参与者、威胁模型和隐私
• 4.2 工具与技术
• 4.3 对外部恶意行为者的保护
• 4.4 对抗服务器的保护
• 4.5 用户感知

5. 对攻击和失败的健壮性

• 5.1 模型性能的对抗性攻击
• 5.2 非恶意失效模式
• 5.3 探索隐私和健壮性之间的张力

6. 确保公平，消除偏见

• 6.1 训练数据的偏差
• 6.2不访问敏感属性的公平性
• 6.3公平、隐私和健壮性
• 6.4利用联合来改善模型多样性
• 6.5联邦公平:新的机遇和挑战

7 结束语

• 用于联邦学习的软件和数据集