摘 要 联邦学习是一种基于分布式训练的机器学习技术,有效地解决了因联合建模而引发的用户间数据隐私泄 露问题,因此在多个领域得到了广泛应用。然而,在实际的联邦学习应用中,统计异质性与长尾分布的共存成为一 大挑战,严重影响了模型性能。因此,如何在保护数据隐私的前提下解决长尾问题,已成为当前的研究热点。本文 综述了联邦长尾学习的研究成果,首先简要阐述了联邦学习的架构,并介绍了统计异质性、长尾学习及联邦长尾学 习的核心概念与定义。接着,依据优化方法的差异,将联邦长尾学习的算法分为两大类:模型组件改进和基于算法 的优化,并深入分析了每种算法的实现细节及其优缺点。同时,为了更好地为不同任务提供参考,本文整合了一些 具有代表性的开源数据集、长尾划分策略、评价指标与对比实验。最后,针对未来的应用场景和研究方向,对联邦长 尾学习进行了展望。期望通过本文的深入研究,能为这类问题提供更全面的解决方案,进一步推动联邦长尾学习技 术在各个领域的广泛应用和发展。 关键词 联邦学习;长尾学习;联邦长尾学习;统计异质性;隐私保护;边缘智能

成为VIP会员查看完整内容
8

相关内容

联邦学习(Federated Learning)是一种新兴的人工智能基础技术,在 2016 年由谷歌最先提出,原本用于解决安卓手机终端用户在本地更新模型的问题,其设计目标是在保障大数据交换时的信息安全、保护终端数据和个人数据隐私、保证合法合规的前提下,在多参与方或多计算结点之间开展高效率的机器学习。其中,联邦学习可使用的机器学习算法不局限于神经网络,还包括随机森林等重要算法。联邦学习有望成为下一代人工智能协同算法和协作网络的基础。
基于深度生成模型的个性化图像生成:十年综述
专知会员服务
18+阅读 · 2月19日
离线强化学习研究综述
专知会员服务
33+阅读 · 1月12日
《图持续学习》综述
专知会员服务
44+阅读 · 2024年2月13日
面向算法选择的元学习研究综述
专知会员服务
45+阅读 · 2023年2月11日
联邦学习攻防研究综述
专知会员服务
58+阅读 · 2022年7月15日
深度学习模型鲁棒性研究综述
专知会员服务
95+阅读 · 2022年1月23日
联邦学习研究综述
专知会员服务
151+阅读 · 2021年12月25日
联邦学习智慧医疗综述
专知会员服务
122+阅读 · 2021年11月27日
编码计算研究综述
专知会员服务
22+阅读 · 2021年10月26日
专知会员服务
127+阅读 · 2020年8月7日
「强化学习可解释性」最新2022综述
专知
11+阅读 · 2022年1月16日
联邦学习研究综述
专知
11+阅读 · 2021年12月25日
图像修复研究进展综述
专知
19+阅读 · 2021年3月9日
基于深度学习的数据融合方法研究综述
专知
33+阅读 · 2020年12月10日
联邦学习安全与隐私保护研究综述
专知
12+阅读 · 2020年8月7日
实体关系抽取方法研究综述
专知
11+阅读 · 2020年7月19日
对比自监督学习
深度学习自然语言处理
34+阅读 · 2020年7月15日
【论文笔记】自注意力图池化
专知
82+阅读 · 2019年11月18日
PointNet系列论文解读
人工智能前沿讲习班
17+阅读 · 2019年5月3日
综述——隐私保护集合交集计算技术研究
计算机研究与发展
22+阅读 · 2017年10月24日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
12+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
43+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
16+阅读 · 2013年12月31日
Arxiv
169+阅读 · 2023年4月20日
A Survey of Large Language Models
Arxiv
455+阅读 · 2023年3月31日
Arxiv
76+阅读 · 2023年3月26日
Arxiv
167+阅读 · 2023年3月24日
Arxiv
24+阅读 · 2023年3月17日
VIP会员
相关VIP内容
基于深度生成模型的个性化图像生成:十年综述
专知会员服务
18+阅读 · 2月19日
离线强化学习研究综述
专知会员服务
33+阅读 · 1月12日
《图持续学习》综述
专知会员服务
44+阅读 · 2024年2月13日
面向算法选择的元学习研究综述
专知会员服务
45+阅读 · 2023年2月11日
联邦学习攻防研究综述
专知会员服务
58+阅读 · 2022年7月15日
深度学习模型鲁棒性研究综述
专知会员服务
95+阅读 · 2022年1月23日
联邦学习研究综述
专知会员服务
151+阅读 · 2021年12月25日
联邦学习智慧医疗综述
专知会员服务
122+阅读 · 2021年11月27日
编码计算研究综述
专知会员服务
22+阅读 · 2021年10月26日
专知会员服务
127+阅读 · 2020年8月7日
相关资讯
「强化学习可解释性」最新2022综述
专知
11+阅读 · 2022年1月16日
联邦学习研究综述
专知
11+阅读 · 2021年12月25日
图像修复研究进展综述
专知
19+阅读 · 2021年3月9日
基于深度学习的数据融合方法研究综述
专知
33+阅读 · 2020年12月10日
联邦学习安全与隐私保护研究综述
专知
12+阅读 · 2020年8月7日
实体关系抽取方法研究综述
专知
11+阅读 · 2020年7月19日
对比自监督学习
深度学习自然语言处理
34+阅读 · 2020年7月15日
【论文笔记】自注意力图池化
专知
82+阅读 · 2019年11月18日
PointNet系列论文解读
人工智能前沿讲习班
17+阅读 · 2019年5月3日
综述——隐私保护集合交集计算技术研究
计算机研究与发展
22+阅读 · 2017年10月24日
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
12+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
6+阅读 · 2015年12月31日
国家自然科学基金
43+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
16+阅读 · 2013年12月31日
微信扫码咨询专知VIP会员