阿里&清华邀你和AI对抗！全球首个通用目标检测对抗攻击竞赛启动！

会员服务 ·

阿里&清华邀你和AI对抗！全球首个通用目标检测对抗攻击竞赛启动！

2020 年 7 月 17 日 机器之心

疫情期间在家精进技术却遭遇服务器短缺？想畅快体验算力自由，挑战高难度目标检测攻击场景吗？这里有一个 完美实现上述目标 ，还能获得 阿里校招绿通、万元奖金、权威证书和高定礼品 ，更可 去顶会当演讲人 的比赛。

阿里安全和清华大学联合举办，数据挖掘顶会 CIKM 强力支持的 CIKM2020 安全 AI 挑战者计划第四期开赛。在第四期目标检测领域 MS COCO 经典数据集上， 场景更通用，攻击自由度更大，任务更复杂，学术价值更高！

一

什么是安全 AI 挑战者计划？

随着流量识别、人脸识别、动作识别、假货识别等应用场景的出现，AI 与安全结合的成果愈加丰硕，但 AI 面临的安全问题也逐渐浮出水面。

为了抵御未来 AI 面临的安全风险，阿里安全联合清华大学，以对抗样本为核心，提供场景、技术、数据、算力、经验等支持，召集「挑战者」以防守者的身份，共同打磨 AI 模型安全；为广大安全爱好者提供数字基建安全的试炼场，在高难度的真实环境中提升技术，培养真正有安全实战能力的安全基建人才。

目前关于 AI 的比赛繁多，质量水准参差不齐，且大多为一次性比赛。安全 AI 挑战者计划的最大特点是， 以系列竞赛贯穿全年，主打高难度、高创新、高趣味、高回报的题目任务和运营玩法 。

每一期差异化的呈现，既满足年轻技术爱好者猎奇求新的偏好，又激发了选手剑走偏锋的奇思妙想，将思路方法持续的沉淀到技术社区，将互联网大企业、优秀科研院校的私有经验公有化，每一期都能够实现超预期的累加技术成。

2019 年 8 月 - 2020 年 3 月，安全 AI 挑战者计划成功举办了 第一期人脸对抗识别比赛、第二期 ImageNet 图像对抗比赛、第三期辱骂场景文本对抗比赛 ；吸引全球 200 多所高校 100 多家企业的近 4000 支队伍参加。

挑战者计划去年重在算法领域深耕，今年在赛题设计上致力于实现 AI 算法和网络安全的融合 ，旨在打破行业机器学习 / 深度学习一家独大的情况，引领 AI 技术在落地时一定程度上结合传统技术，运用多种技术组合解决业务问题，更好地抵御深度学习时代的安全问题。 总奖金池 200 万元 。

（图为往届三期选手对比赛的评价）

二

通用目标检测的对抗攻击的出题思路

为了发现目标检测模型的脆弱性，为此领域的工作者敲响警钟，CIKM2020 安全 AI 挑战者计划第四期采用 COCO 数据集（其中包含 20 类物体），任务是 通过向原始图像中添加对抗补丁（adversarial patch）的方式，使得典型的目标检测模型不能够检测到图像中的物体，绕过目标定位 。

大赛主办方、清华大学 AI 研究院基础理论研究中心主任、教授朱军认为：「目标检测对于自动驾驶等诸多领域具有重要的潜在应用价值，其安全问题需要引起更多的关注。此次目标检测攻击要求对目标的类别、位置等信息同时进行攻击，问题的复杂度更高也更有挑战。另外，本次竞赛采用了全新的设定，允许参赛这通过多块 patch 对目标进行攻击，进一步提高了问题的挑战性。 我们鼓励参赛者能够发挥自己的创造性，提出有价值的解决方案 。」

为了更好地评价选手的攻击效果，主办方创造了全新的得分计算准则。除了加入攻击成功率之外，还对添加补丁的数量和大小进行了约束。选手添加的补丁数量、修改的像素和模型识别到的 bounding box 越少，则代表攻击更加成功，得分则越高。 为了保证比赛的难度，选取了 4 个近期的 State-of-the-art 检测模型作为攻击目标 ，包括两个白盒模型——YOLO v4 和 Faster RCNN 和另外两个未知的黑盒模型。

朱军教授认为， 第四期比赛是个前沿热门领域，对抗补丁攻击的迁移性等课题仍未被深入研究 。参赛选手挑战高难度目标检测攻击场景，除了获得宝贵经验，也可以进一步钻研，把在比赛中的一些经验和技巧转化为学术研究论文，实现工程实践和学术研究两不误。

三