【WWW2021】对众包系统的数据中毒攻击和防御

Data Poisoning Attacks and Defenses to Crowdsourcing Systems

大数据分析的一个关键挑战是如何收集大量(标记)数据。众包旨在通过聚合和估算来自广泛的客户/用户的高质量数据(如文本的情感标签)来解决这一挑战。现有的众包研究集中于设计新的方法来提高来自不可靠/嘈杂客户端的聚合数据质量。然而，迄今为止，这种众包系统的安全方面仍未得到充分的探索。我们的目标是在这项工作中填补这一缺口。具体来说，我们表明众包很容易受到数据中毒攻击，即恶意客户端提供精心制作的数据来破坏聚合数据。我们将我们所提议的数据中毒攻击规划为一个优化问题，使聚合数据的错误最大化。我们在一个合成的和两个真实的基准数据集上的评估结果表明，所提出的攻击可以显著地增加聚合数据的估计误差。我们还提出了两种防御来减少恶意客户端的影响。我们的实证结果表明，所提出的防御方法可以显著降低数据中毒攻击的估计误差。

https://www.zhuanzhi.ai/paper/d25992f7a7df3ee1468f244f05a8ba03

专知便捷查看

便捷下载，请关注专知公众号（点击上方蓝色专知关注）

• 后台回复“DPAD” 可以获取《【WWW2021】对众包系统的数据中毒攻击和防御》专知下载链接索引

专知，专业可信的人工智能知识分发，让认知协作更快更好！欢迎注册登录专知www.zhuanzhi.ai，获取5000+AI主题干货知识资料！

欢迎微信扫一扫加入专知人工智能知识星球群，获取最新AI专业干货知识教程资料和与专家交流咨询！

点击“ 阅读原文 ”，了解使用 专知 ，查看获取5000+AI主题知识资源