全球首个通用目标检测对抗攻击竞赛启动!阿里&清华&CIKM邀你和AI对抗!

2020 年 7 月 17 日 CVer


疫情期间在家精进技术却遭遇服务器短缺?想畅快体验算力自由,挑战高难度目标检测攻击场景吗?这里有一个完美实现上述目标,还能获得阿里校招绿通、万元奖金、权威证书和高定礼品,更可去顶会当演讲人的比赛。

阿里安全和清华大学联合举办,数据挖掘顶会CIKM强力支持的CIKM2020安全AI挑战者计划第四期开赛。在第四期目标检测领域MS COCO经典数据集上,场景更通用,攻击自由度更大,任务更复杂,学术价值更高!


什么是安全AI挑战者计划?



随着流量识别、人脸识别、动作识别、假货识别等应用场景的出现,AI与安全结合的成果愈加丰硕,但AI面临的安全问题也逐渐浮出水面。
为了抵御未来AI面临的安全风险,阿里安全联合清华大学,以对抗样本为核心,提供场景、技术、数据、算力、经验等支持,召集“挑战者”以防守者的身份,共同打磨AI模型安全;为广大安全爱好者提供数字基建安全的试炼场,在高难度的真实环境中提升技术,培养真正有安全实战能力的安全基建人才。

目前关于AI的比赛繁多,质量水准参差不齐,且大多为一次性比赛。安全AI挑战者计划的最大特点是,以系列竞赛贯穿全年,主打高难度、高创新、高趣味、高回报的题目任务和运营玩法。

每一期差异化的呈现,既满足年轻技术爱好者猎奇求新的偏好,又激发了选手剑走偏锋的奇思妙想,将思路方法持续的沉淀到技术社区,将互联网大企业、优秀科研院校的私有经验公有化,每一期都能够实现超预期的累加技术成。

2019年8月-2020年3月,安全AI挑战者计划成功举办了第一期人脸对抗识别比赛第二期ImageNet图像对抗比赛第三期辱骂场景文本对抗比赛;吸引全球200多所高校100多家企业的近4000支队伍参加。

挑战者计划去年重在算法领域深耕,今年在赛题设计上致力于实现AI算法和网络安全的融合,旨在打破行业机器学习/深度学习一家独大的情况,引领AI技术在落地时一定程度上结合传统技术,运用多种技术组合解决业务问题,更好地抵御深度学习时代的安全问题。总奖金池200万元。

(图为往届三期选手对比赛的评价)


通用目标检测的对抗攻击的出题思路



为了发现目标检测模型的脆弱性,为此领域的工作者敲响警钟,CIKM2020安全AI挑战者计划第四期采用COCO数据集(其中包含20类物体),任务是通过向原始图像中添加对抗补丁(adversarial patch)的方式,使得典型的目标检测模型不能够检测到图像中的物体,绕过目标定位。



大赛主办方、清华大学AI研究院基础理论研究中心主任、教授朱军认为:“目标检测对于自动驾驶等诸多领域具有重要的潜在应用价值,其安全问题需要引起更多的关注。此次目标检测攻击要求对目标的类别、位置等信息同时进行攻击,问题的复杂度更高也更有挑战。另外,本次竞赛采用了全新的设定,允许参赛这通过多块patch对目标进行攻击,进一步提高了问题的挑战性。我们鼓励参赛者能够发挥自己的创造性,提出有价值的解决方案。

为了更好地评价选手的攻击效果,主办方创造了全新的得分计算准则。除了加入攻击成功率之外,还对添加补丁的数量和大小进行了约束。选手添加的补丁数量、修改的像素和模型识别到的bounding box越少,则代表攻击更加成功,得分则越高。为了保证比赛的难度,选取了4个近期的State-of-the-art检测模型作为攻击目标,包括两个白盒模型——YOLO v4和Faster RCNN和另外两个未知的黑盒模型。

朱军教授认为,第四期比赛是个前沿热门领域,对抗补丁攻击的迁移性等课题仍未被深入研究。参赛选手挑战高难度目标检测攻击场景,除了获得宝贵经验,也可以进一步钻研,把在比赛中的一些经验和技巧转化为学术研究论文,实现工程实践和学术研究两不误。


赛制简介


1.赛程安排:报名9月2日结束。

2.激励设置:挑战者计划第二季总奖金池为200万元。本期总奖金为68000元,更有近10万的奖品福利,奖励如下:
  • 金:本期6.8万元

  • Pioneering Award:通过比赛发表高水平学术论文,前两位获得1万元奖励。

  • 奇思妙想奖:阿里巴巴20周年限定勋章礼盒(奖励给思路有创意的同学,上不设限)。

  • 荣誉证书:前十名队伍和奇思妙想奖,都将获得阿里和清华共同颁发的顶级证书。

  • 线下颁奖:优秀队伍将受邀参加10月的CIKM会议,并在国际舞台担任speaker分享思路。

  • 绿色通道:总成绩排名Top20的队伍,可获得阿里安全校招绿色通道。

  • 线下特训营:TOP20选手将获得差旅全包到阿里安全总部的游学机会。

  • 比赛潮物福利:限定潮T、手工黄铜酒杯、清新茶具、洋气香薰机、纯牛皮精英书包等。

  • 邀请好友奖: 邀请对应数量的同学报名比赛,将获得59元-759元的精致礼物。具体玩法请到比赛官网了解(点击底部阅读原文)。



3.算力自由-服务器免费送!
为满足选手因疫情在家服务器短缺的痛点,特发起“挑战者服务器免费送”活动.

每两周公布一次排行榜(8月3日、8月17日、8月31日),TOP 6队伍将获得1000元的阿里云服务器代金券,可兑换购买任意服务器,助力大家比赛666!

4.参赛对象

面向全社会开放,高等院校、科研单位、互联网企业等人员均可报名参赛。

5.报名方式

点击文章底部“阅读原文”直达报名;或者登陆大赛官网报名

https://tianchi.aliyun.com/competition/entrance/531806/introduction?spm=5176.12281949.1003.3.493e3eafjasYL6&lang=zh-cn

福利

钉钉扫码加入对抗样本钉钉群,遇到同路人

技术分享、交流答疑、红包礼物等福利不停


登录查看更多
0

相关内容

信息和知识管理会议(CIKM)为介绍和讨论信息和知识管理的研究以及数据和知识库方面的最新进展提供了一个国际论坛。会议的目的是确定未来知识和信息系统发展所面临的具有挑战性的问题,并通过征求和审查高质量的、应用的和理论的研究成果来确定未来的研究方向。会议的一个重要部分是讲习班计划,它侧重于及时的研究挑战和倡议。 官网地址:http://dblp.uni-trier.de/db/conf/cikm/
专知会员服务
124+阅读 · 2020年8月7日
《人工智能2020:落地挑战与应对 》56页pdf
专知会员服务
195+阅读 · 2020年3月8日
【紫冬快讯】夺冠!自动化所团队拔得CVPR2019 UG2+人脸识别竞赛头筹
中国科学院自动化研究所
9+阅读 · 2019年6月22日
干货 | 各大数据竞赛 Top 解决方案汇总
AI科技评论
12+阅读 · 2018年11月12日
ViZDoom Competitions: Playing Doom from Pixels
Arxiv
5+阅读 · 2018年9月10日
Arxiv
11+阅读 · 2018年7月31日
Arxiv
11+阅读 · 2018年5月13日
Arxiv
6+阅读 · 2018年4月23日
Arxiv
7+阅读 · 2018年3月22日
Arxiv
4+阅读 · 2018年3月19日
VIP会员
相关论文
ViZDoom Competitions: Playing Doom from Pixels
Arxiv
5+阅读 · 2018年9月10日
Arxiv
11+阅读 · 2018年7月31日
Arxiv
11+阅读 · 2018年5月13日
Arxiv
6+阅读 · 2018年4月23日
Arxiv
7+阅读 · 2018年3月22日
Arxiv
4+阅读 · 2018年3月19日
Top
微信扫码咨询专知VIP会员