联邦学习(FL)是一种机器学习设置,许多客户(例如移动设备或整个组织)在保持数据分散的同时协同训练一个模型。FL体现了集中的数据收集和最小化的原则,并可以减轻许多系统的隐私风险和成本造成的传统,集中的机器学习和数据科学方法。这个演讲,Aurelien Bellet将介绍属于FL范畴的各种设置,回顾一些标准算法,并讨论最近的一些工作和开放问题。

http://researchers.lille.inria.fr/abellet/talks/federated_learning_introduction.pdf

成为VIP会员查看完整内容
0
58

相关内容

Federated Learning (FL) is a concept first introduced by Google in 2016, in which multiple devices collaboratively learn a machine learning model without sharing their private data under the supervision of a central server. This offers ample opportunities in critical domains such as healthcare, finance etc, where it is risky to share private user information to other organisations or devices. While FL appears to be a promising Machine Learning (ML) technique to keep the local data private, it is also vulnerable to attacks like other ML models. Given the growing interest in the FL domain, this report discusses the opportunities and challenges in federated learning.

0
2
下载
预览

题目: Survey of Personalization Techniques for Federated Learning

简介:

联邦学习使机器学习模型可以从分散的数据中学习,而不会损害隐私。 联邦学习的标准制定为所有客户提供了一种共享模型。 由于跨设备的非IID数据分布造成的统计异质性通常导致以下情况:对于某些客户,仅对自己的私有数据进行训练的局部模型的性能要优于全局共享模型,从而丧失了参与该过程的动力。 已经提出了几种技术来个性化全局模型,以更好地为单个客户服务。 本文强调了个性化的必要性,并对有关该主题的最新研究进行了调查。

目录:

成为VIP会员查看完整内容
0
58

题目: Threats to Federated Learning: A Survey

简介:

随着数据孤岛的出现和隐私意识,训练人工智能(AI)模型的传统集中式方法面临着严峻的挑战。在这种新现实下,联邦学习(FL)最近成为一种有效的解决方案。现有的FL协议设计已显示出存在漏洞,系统内部和外部系统的攻击者都可以利用这些漏洞来破坏数据隐私。因此,让FL系统设计人员了解未来FL算法设计对隐私保护的意义至关重要。当前,没有关于此主题的调查。在本文中,我们 弥合FL文学中的这一重要鸿沟。通过简要介绍FL的概念以及涵盖威胁模型和FL的两种主要攻击的独特分类法:1)中毒攻击 2)推理攻击,本文提供了对该重要主题的易于理解的概述。我们重点介绍了各种攻击所采用的关键技术以及基本假设,并讨论了未来研究方向,以实现FL中更强大的隐私保护。

目录:

成为VIP会员查看完整内容
0
53

人工智能(AI)的成功应该在很大程度上归功于丰富数据的可获得性。然而,实际情况并非如此,行业中的开发人员常常面临数据不足、不完整和孤立的情况。因此,联邦学习被提议通过允许多方在不显式共享数据的情况下协作构建机器学习模型,同时保护数据隐私,来缓解这种挑战。然而,现有的联邦学习算法主要集中在数据不需要显式标记或者所有数据都有标记的情况下。然而在现实中,我们经常会遇到这样的情况,标签数据本身是昂贵的,没有足够的标签数据供应。虽然这类问题通常通过半监督学习来解决,但据我们所知,联邦半监督学习还没有投入任何努力。在这项调查中,我们简要地总结了目前流行的半监督算法,并对联邦半监督学习做了简要的展望,包括可能的方法、设置和挑战。

成为VIP会员查看完整内容
0
55

Federated learning (FL) is a machine learning setting where many clients (e.g. mobile devices or whole organizations) collaboratively train a model under the orchestration of a central server (e.g. service provider), while keeping the training data decentralized. FL embodies the principles of focused data collection and minimization, and can mitigate many of the systemic privacy risks and costs resulting from traditional, centralized machine learning and data science approaches. Motivated by the explosive growth in FL research, this paper discusses recent advances and presents an extensive collection of open problems and challenges.

0
17
下载
预览

主题: Federated Learning: User Privacy, Data Security and Confidentiality in Machine Learning

摘要: 尽管人工智能(AI)目前取得了巨大的进步,但它在高质量大数据的获取方面面临着严峻的挑战。在许多实际应用中,数据是以孤立岛的形式存在的。整合数据的工作越来越困难,部分原因是对用户隐私和数据安全的严重关切。本次演讲将回顾这些挑战,并描述解决这些挑战的可能技术解决方案,并将概述迁移学习的最新进展,并展示它如何缓解数据短缺的问题。

邀请嘉宾: Qiang Yang,香港科技大学计算机科学与工程系的客座教授。他的研究兴趣包括人工智能、机器学习,特别是迁移移学习。他是AAAI、ACM、IEEE、AAAS等的研究员,《智能系统与技术》(ACM-TIST)的创始主编,《大数据》(IEEE-TBD)的创始主编。1989年,他在马里兰大学帕克分校获得博士学位,曾在滑铁卢大学和西蒙·弗雷泽大学任教。他是IJCAI-2015的PC主席,并于2017年获得ACM SIGKDD杰出服务奖。他是IJCAI现任总裁(2017-2019年)和AAAI执行委员会成员。

成为VIP会员查看完整内容
0
9

We present one-shot federated learning, where a central server learns a global model over a network of federated devices in a single round of communication. Our approach - drawing on ensemble learning and knowledge aggregation - achieves an average relative gain of 51.5% in AUC over local baselines and comes within 90.1% of the (unattainable) global ideal. We discuss these methods and identify several promising directions of future work.

0
7
下载
预览
小贴士
相关主题
相关VIP内容
专知会员服务
107+阅读 · 2020年4月26日
相关资讯
模型攻击:鲁棒性联邦学习研究的最新进展
机器之心
23+阅读 · 2020年6月3日
联邦学习最新研究趋势!
AI科技评论
38+阅读 · 2020年3月12日
【资源】联邦学习相关文献资源大列表
专知
5+阅读 · 2020年2月25日
Gartner 报告:人工智能的现状与未来
InfoQ
9+阅读 · 2019年11月29日
联邦学习或将助力IoT走出“数据孤岛”?
中国计算机学会
13+阅读 · 2019年3月16日
Unsupervised Learning via Meta-Learning
CreateAMind
32+阅读 · 2019年1月3日
LibRec 每周算法:Collaborative Metric Learning (WWW'17)
LibRec智能推荐
5+阅读 · 2017年7月4日
相关论文
Shenghui Li,Edith Ngai,Fanghua Ye,Thiemo Voigt
0+阅读 · 1月14日
Chen Wu,Xian Yang,Sencun Zhu,Prasenjit Mitra
0+阅读 · 1月14日
Priyanka Mary Mammen
2+阅读 · 1月14日
Advances and Open Problems in Federated Learning
Peter Kairouz,H. Brendan McMahan,Brendan Avent,Aurélien Bellet,Mehdi Bennis,Arjun Nitin Bhagoji,Keith Bonawitz,Zachary Charles,Graham Cormode,Rachel Cummings,Rafael G. L. D'Oliveira,Salim El Rouayheb,David Evans,Josh Gardner,Zachary Garrett,Adrià Gascón,Badih Ghazi,Phillip B. Gibbons,Marco Gruteser,Zaid Harchaoui,Chaoyang He,Lie He,Zhouyuan Huo,Ben Hutchinson,Justin Hsu,Martin Jaggi,Tara Javidi,Gauri Joshi,Mikhail Khodak,Jakub Konečný,Aleksandra Korolova,Farinaz Koushanfar,Sanmi Koyejo,Tancrède Lepoint,Yang Liu,Prateek Mittal,Mehryar Mohri,Richard Nock,Ayfer Özgür,Rasmus Pagh,Mariana Raykova,Hang Qi,Daniel Ramage,Ramesh Raskar,Dawn Song,Weikang Song,Sebastian U. Stich,Ziteng Sun,Ananda Theertha Suresh,Florian Tramèr,Praneeth Vepakomma,Jianyu Wang,Li Xiong,Zheng Xu,Qiang Yang,Felix X. Yu,Han Yu,Sen Zhao
17+阅读 · 2019年12月10日
One-Shot Federated Learning
Neel Guha,Ameet Talwalkar,Virginia Smith
7+阅读 · 2019年3月5日
Yu Cheng,Mo Yu,Xiaoxiao Guo,Bowen Zhou
12+阅读 · 2019年1月26日
Meta-Transfer Learning for Few-Shot Learning
Qianru Sun,Yaoyao Liu,Tat-Seng Chua,Bernt Schiele
6+阅读 · 2018年12月6日
Yao Quanming,Wang Mengshuo,Jair Escalante Hugo,Guyon Isabelle,Hu Yi-Qi,Li Yu-Feng,Tu Wei-Wei,Yang Qiang,Yu Yang
6+阅读 · 2018年10月31日
GPU-Accelerated Robotic Simulation for Distributed Reinforcement Learning
Jacky Liang,Viktor Makoviychuk,Ankur Handa,Nuttapong Chentanez,Miles Macklin,Dieter Fox
4+阅读 · 2018年10月24日
Mobile big data analysis with machine learning
Jiyang Xie,Zeyu Song,Yupeng Li,Zhanyu Ma
5+阅读 · 2018年8月2日
Top