TensorFlow、Caffe、Torch 三大深度学习框架被存在安全漏洞

2017 年 12 月 3 日 DeepTech深科技


年度订阅用户可加入科技英语学习社区,每周科技英语直播讲堂,详情查看“阅读原文”


近日,奇虎 360 安全研究实验室的 Qixue Xiao 和 Deyue Zhang,美国佐治亚大学的 Kang Li,以及美国弗吉尼亚大学的 Weilin Xu 共同指出:TensorFlow、Caffe、Torch 等深度学习框架对第三方开源基础库的过度依赖会导致其存在大量的安全威胁。


TensorFlow、Caffe、Torch 等深度学习框架的使用可以让应用开发人员无需关注底层实现细节,大大提高了人工智能应用的开发效率。但是这些深度学习框架所提供的高效性也注定了框架自身的复杂性,而系统越复杂,就越有可能存在安全隐患,特别是这三大框架又都是搭建在众多第三方开源基础库之上的



上述研究人员在分析了 TensorFlow,Caffe,Torch 这三大深度学习框架所使用的大量第三方开源基础库后,发现它们存在不少的网络安全漏洞,容易受到拒绝服务攻击、逃逸攻击、系统损害攻击的影响。


注意,这是安全研究人员们首次对这三个框架进行安全分析,但他们仍然在这三个框架中发现了 15 多个安全漏洞,而这其中大部分漏洞都发现自开源计算机视觉库 Open CV 上的代码,共有 11 个漏洞。


这些漏洞,比如内存访问越界漏洞,都能被黑客用来执行上述所说的三种网络攻击类型,都能被黑客用来篡改数据流,欺骗我们的人工智能应用。



从上面的漏洞列表可以看出,Caffe 和 Torch 所面临的安全威胁较多,而 TensorFlow 相对而言就轻松多了。


研究人员表示,这不是深度学习框架的错,而是这些框架所依赖的第三方开源基础库的错。很多第三方开源基础库的漏洞都不能及时得到修复,而我们的深度学习框架却又过度依赖众多的第三开源基础库。迟早,这种代码库之间的过度依赖的现象会给每一位开发人员带来严重的安全隐患。


-End-


编辑:Theo    校审:黄珊

参考:

http://www.theregister.co.uk/2017/11/30/machine_learning_vulnerabilities/

http://blogs.360.cn/blog/devils-in-the-deep-learning-framework/


登录查看更多
6

相关内容

《强化学习—使用 Open AI、TensorFlow和Keras实现》174页pdf
专知会员服务
136+阅读 · 2020年3月1日
一网打尽!100+深度学习模型TensorFlow与Pytorch代码实现集合
《动手学深度学习》(Dive into Deep Learning)PyTorch实现
专知会员服务
119+阅读 · 2019年12月31日
【书籍】深度学习框架:PyTorch入门与实践(附代码)
专知会员服务
163+阅读 · 2019年10月28日
【深度学习视频分析/多模态学习资源大列表】
专知会员服务
91+阅读 · 2019年10月16日
机器学习相关资源(框架、库、软件)大列表
专知会员服务
39+阅读 · 2019年10月9日
“黑客”入门学习之“windows系统漏洞详解”
安全优佳
8+阅读 · 2019年4月17日
机器学习者必知的 5 种深度学习框架
深度学习世界
7+阅读 · 2018年5月3日
2017年四巨头的深度学习框架之战,你支持谁?
全球人工智能
6+阅读 · 2017年12月29日
Tensor Flow、Caffe、Torch共同之处:敞开的漏洞!
手把手教你安装深度学习软件环境(附代码)
数据派THU
4+阅读 · 2017年10月4日
从零开始:深度学习软件环境安装指南
机器之心
6+阅读 · 2017年10月2日
Caffe 深度学习框架上手教程
黑龙江大学自然语言处理实验室
14+阅读 · 2016年6月12日
Deformable Style Transfer
Arxiv
14+阅读 · 2020年3月24日
Arxiv
22+阅读 · 2018年8月30日
Arxiv
6+阅读 · 2018年6月21日
Arxiv
3+阅读 · 2018年3月2日
VIP会员
相关VIP内容
相关资讯
“黑客”入门学习之“windows系统漏洞详解”
安全优佳
8+阅读 · 2019年4月17日
机器学习者必知的 5 种深度学习框架
深度学习世界
7+阅读 · 2018年5月3日
2017年四巨头的深度学习框架之战,你支持谁?
全球人工智能
6+阅读 · 2017年12月29日
Tensor Flow、Caffe、Torch共同之处:敞开的漏洞!
手把手教你安装深度学习软件环境(附代码)
数据派THU
4+阅读 · 2017年10月4日
从零开始:深度学习软件环境安装指南
机器之心
6+阅读 · 2017年10月2日
Caffe 深度学习框架上手教程
黑龙江大学自然语言处理实验室
14+阅读 · 2016年6月12日
Top
微信扫码咨询专知VIP会员