ECCV2018教程146页《对抗机器学习》PPT教程(附PPT下载)

2018 年 9 月 7 日 专知
ECCV2018教程146页《对抗机器学习》PPT教程(附PPT下载)

导读全球计算机视觉三大顶会之一 ECCV 2018(European Conference on Computer Vision)于9月8日到14 日在德国举行。本文介绍该会议中146页的对抗机器学习PPT教程。


深度学习为人们带来了便利,同时也带来了安全隐患。深度学习模型在干扰下(尤其是精心设计的干扰)可能会产生错误的结果,带来严重的安全问题。对抗机器学习研究这种攻击以及抗攻击的机制。


请关注专知公众号(扫一扫最下面专知二维码,或者点击上方蓝色专知),

  • 后台回复“AML” 就可以获取论文下载链接~ 




教程中用一个很好的例子来解释了什么是对抗学习,给一个汽车图像加上一个随机的噪音,虽然从肉眼看来,噪音的加入并没有对图像产生什么变化,但是对深度模型却把这量车识别成了鸵鸟:



再例如,戴上下面这个精心设计的眼睛,左边的大叔会被深度网络识别为右边的女演员。



不仅是图像,其他领域的深度网络可以被对抗学习攻击。MalConv可以通过卷及网络基于软件的字节来识别恶意软件,Gradient-based attacks可以通过填补字节的方法来规避攻击。深度学习在给人们带来便利的同时,也带来了安全上的隐患。





参考文献:

  • https://www.pluribus-one.it/sec-ml/wild-patterns



-END-

专 · 知


人工智能领域26个主题知识资料全集获取与加入专知人工智能服务群: 欢迎微信扫一扫加入专知人工智能知识星球群,获取专业知识教程视频资料和与专家交流咨询!




请PC登录www.zhuanzhi.ai或者点击阅读原文,注册登录专知,获取更多AI知识资料!


请加专知小助手微信(扫一扫如下二维码添加),加入专知主题群(请备注主题类型:AI、NLP、CV、 KG等)交流~

 AI 项目技术 & 商务合作:bd@zhuanzhi.ai, 或扫描上面二维码联系!

请关注专知公众号,获取人工智能的专业知识!

点击“阅读原文”,使用专知

登录查看更多
8

相关内容

对抗机器学习(Adverserial Machine Learning)作为机器学习研究中的安全细分方向,在一定程度上保证模型的安全性
小贴士
相关VIP内容
专知会员服务
84+阅读 · 2020年7月6日
专知会员服务
103+阅读 · 2020年6月28日
专知会员服务
47+阅读 · 2020年6月8日
专知会员服务
129+阅读 · 2020年5月22日
专知会员服务
93+阅读 · 2020年4月25日
因果图,Causal Graphs,52页ppt
专知会员服务
152+阅读 · 2020年4月19日
专知会员服务
107+阅读 · 2020年2月1日
相关论文
A survey on Semi-, Self- and Unsupervised Techniques in Image Classification
Lars Schmarje,Monty Santarossa,Simon-Martin Schröder,Reinhard Koch
82+阅读 · 2020年2月20日
Learning latent representations for style control and transfer in end-to-end speech synthesis
Ya-Jie Zhang,Shifeng Pan,Lei He,Zhen-Hua Ling
5+阅读 · 2019年2月14日
Yu Cheng,Mo Yu,Xiaoxiao Guo,Bowen Zhou
12+阅读 · 2019年1月26日
Few-shot 3D Multi-modal Medical Image Segmentation using Generative Adversarial Learning
Arnab Kumar Mondal,Jose Dolz,Christian Desrosiers
9+阅读 · 2018年10月29日
Diverse Image-to-Image Translation via Disentangled Representations
Hsin-Ying Lee,Hung-Yu Tseng,Jia-Bin Huang,Maneesh Kumar Singh,Ming-Hsuan Yang
12+阅读 · 2018年8月2日
Qi Dou,Cheng Ouyang,Cheng Chen,Hao Chen,Pheng-Ann Heng
4+阅读 · 2018年6月19日
Jyh-Jing Hwang,Tsung-Wei Ke,Jianbo Shi,Stella X. Yu
7+阅读 · 2018年5月18日
Zhun Zhong,Liang Zheng,Zhedong Zheng,Shaozi Li,Yi Yang
3+阅读 · 2018年4月10日
Orest Kupyn,Volodymyr Budzan,Mykola Mykhailych,Dmytro Mishkin,Jiri Matas
3+阅读 · 2018年4月3日
Lingxiao He,Jian Liang,Haiqing Li,Zhenan Sun
4+阅读 · 2018年4月1日
Top