文末送书 | 腾讯安全朱雀实验室出品:国内首部揭秘AI安全前沿技术力作

2022 年 11 月 1 日 PaperWeekly



与黑灰产和黑客持续对抗的“安全人”

1956年,在美国达特茅斯学院的学术研讨会上,麦卡锡等科学家首次提出“人工智能”(AI)这一概念,至此AI学科诞生。

我们在享受AI技术带来便捷的同时,安全隐患也随之出现:

  • 5G时代,自动驾驶呼之欲出。如果有人把假的交通标识放在路边,会不会造成灾难?

  • 手术中的医疗机器人,因血液溅到摄像头,导致机器人“失明”,软件系统“带病”上岗,一旦“发病”或被人操控,会带来怎样的后果?

  • AI技术为人们提供了前所未有的贴心服务,但如果智能模型中留有“后门”,如何避免AI设备被恶意“劫持”?

这些安全隐患之所以没有影响我们的正常生活,是因为一直有一支支隐秘的队伍,在前仆后继地守护着网络安全。

他们深知,表面平静的网络世界暗潮汹涌,他们用代码抵御黑客的枪林弹雨,用十指化解黑灰产的恶行。

他们默默守护着千万用户。他们,被称为“安全人”。


我们被AI“计算”,同时也被AI“算计”

2018年,腾讯守护者计划安全团队在工作中遇到过一个特殊的黑产团伙,该团伙在相关的攻防场景里,用了当时颇为流行的Caffe深度学习框架和卷积神经网络,这使得他们同其他竞争者相比攻击效率有了数倍的提升。

AI技术如此齐整整地用于黑产,这是国内首例!

尽管这个黑产团伙后来被及时打掉,但这也让安全从业者意识到一个事实——

AI技术,必将是安全战场攻防两端的兵家必争之地。

此后,腾讯安全朱雀实验室开始在AI安全方面做大量细致、深入的探索,他们的研究和实践主要覆盖四方面:

(1)AI 技术本身的安全性。

(2)AI 技术可能被攻击利用的地方。

(3)AI 技术为防守助力。

(4)AI 技术之以攻促防,攻防联动。


AI安全前沿技术,终于立地成书

经过一年多打磨,国内首部揭秘AI安全前沿技术图书——《AI安全:技术与实战》于2022年金秋十月重磅上市。

腾讯安全


腾讯安全平台部掌舵人杨勇(coolc)说:

“我们走过一些弯路,也有过一些收获。

我们参考了很多前辈和行业专家的经验成果,也分享过一些小小的发现。而正是在这个探索过程中,我们意识到,前辈们的探索经验和研究成果,为我们所进行的安全研究工作带来了诸多的便捷性。

本着继承和发扬前辈们的开放、协作和共享精神,我们也将工作中的点滴进行了总结与归纳,把研究历程中的一些经验沉淀下来形成这本书。




这本书,讲什么

本书的重点锚定在AI安全发展的通用技术上。

从实际应用场景的视角出发,对各类攻击方法及其技术原理进行了分析,并详细介绍了基于不同算法和数据实验的实现过程和案例总结,助力提升AI技术的安全性!


这本书,作者是谁

作者团队——腾讯安全朱雀实验室

朱雀实验室专注于AI安全技术研究及应用,围绕对抗机器学习、AI模型安全、深伪检测等方面取得了一系列研究成果,议题入选CVPR、ICLR、CanSecWest、HITB、POC、XCon等国内外顶级会议,面向行业发布了业内首个AI安全威胁风险矩阵,持续聚焦AI在产业应用的安全问题,助力AI安全技术创新。


上市即霸榜

《AI安全:技术与实战》蝉联榜首25天

京东计算机安全类目


这本书,亮点在哪
  • 技术最前沿

从AI自身安全性角度出发,揭秘对抗样本攻击、数据投毒攻击、模型后门攻击、预训练模型中的风险与防御、AI数据隐私窃取攻击,以及AI应用失控等方面,以期提升AI技术的安全性。

  • 攻击方法和原理,详细拆解

  • 14个精选实战案例,原汁原味呈现,一次读过瘾

  • 朱雀团队实战经验沉淀,带领读者深入学习和理解

  • 全彩极致设计,享受真实视觉体验





来自领域专家的评价

腾讯首席科学家、腾讯AI Lab和腾讯Robotics X实验室主任张正友说,

这本书凝聚了朱雀团队在AI安全技术的研究和实践中积累的多年经验,我相信这本书将对AI安全领域的研究人员和管理人员带来极大的帮助。

清华大学教授江勇说,

这本书从实际应用场景的视角出发,提供了包括代码在内的多个具有代表性的实战案例。相信本书提供的实战案例能够帮助读者更加快速、深入地了解人工智能安全的各项技术在实际应用场景下的具体部署和应用。

腾讯安全科恩实验室负责人吴石说,

这本书对于AI本身的安全问题做了一个全面的阐述与总结,系统化地对AI安全测试的方法做了细致的分类与讲解,具有很强的实用性。无论你是研究AI,还是研究安全,这本书都有很高的价值。

阿里云安全负责人欧阳欣说,

攻与防永远是螺旋式上升的态势,“AI安全”仅仅才是开始,我推荐本书给每一个安全从业者。除此之外,我一直认为最优秀的程序员一定懂得如何写出安全的代码。因此,我也推荐本书给每一位AI从业人员,一起致力于打造出安全的AI。


来自读者的好评


内文抢先剧透


这本书,适合谁读
  • AI领域研究人员、管理人员

  • AI安全领域从业者

  • 想通过实战案例辅助学习的AI爱好者


最后,送给读者的彩蛋

01. 全书实战代码,全部送

02. 进入专属读者群,朱雀在线为你答疑

科技的力量让人类文明更加美好,

这一切离不开过去20年间网络安全从业者的苦心耕耘。


毕竟,

群星之所以闪耀动人,

是因为他们漫天交相辉映。


本书献给每一位网络安全从业者,

感谢你们的守护。


 

京东限时优惠,快快扫码抢购吧!


 


PaperWeekly携手博文视点送书啦!

点击下方名片关注「AI 求职」

在后台回复暗号“安全”

即可参与赢取这本AI安全必读新书

奖品数量共计 10 份!

活动截止时间为 11 月 7 日 09:00


🔍

现在,在「知乎」也能找到我们了
进入知乎首页搜索「PaperWeekly」
点击「关注」订阅我们的专栏吧

·
·

登录查看更多
3

相关内容

人工智能杂志AI(Artificial Intelligence)是目前公认的发表该领域最新研究成果的主要国际论坛。该期刊欢迎有关AI广泛方面的论文,这些论文构成了整个领域的进步,也欢迎介绍人工智能应用的论文,但重点应该放在新的和新颖的人工智能方法如何提高应用领域的性能,而不是介绍传统人工智能方法的另一个应用。关于应用的论文应该描述一个原则性的解决方案,强调其新颖性,并对正在开发的人工智能技术进行深入的评估。 官网地址:http://dblp.uni-trier.de/db/journals/ai/
【百图生科宋乐博士】 人工智能赋能医药研发
专知会员服务
27+阅读 · 2022年3月17日
2021年中国云原生AI开发平台白皮书
专知会员服务
54+阅读 · 2021年12月4日
专知会员服务
86+阅读 · 2021年8月11日
ArchSummit 全球架构师峰会顺利落地深圳
极客邦科技Geekbang
9+阅读 · 2022年7月22日
“健康医疗+AI大数据”前沿技术高峰论坛举行
THU数据派
2+阅读 · 2022年3月9日
致敬科技女性|AI力量,听她们说!
极市平台
1+阅读 · 2022年3月8日
GMTC全球大前端技术大会顺利落地深圳
极客邦科技Geekbang
0+阅读 · 2021年12月10日
四大维度全景揭秘阿里巴巴智能对话开发平台
云栖社区
11+阅读 · 2019年1月15日
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
3+阅读 · 2016年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Arxiv
0+阅读 · 2022年12月31日
Arxiv
0+阅读 · 2022年12月30日
Arxiv
22+阅读 · 2018年8月30日
VIP会员
相关资讯
ArchSummit 全球架构师峰会顺利落地深圳
极客邦科技Geekbang
9+阅读 · 2022年7月22日
“健康医疗+AI大数据”前沿技术高峰论坛举行
THU数据派
2+阅读 · 2022年3月9日
致敬科技女性|AI力量,听她们说!
极市平台
1+阅读 · 2022年3月8日
GMTC全球大前端技术大会顺利落地深圳
极客邦科技Geekbang
0+阅读 · 2021年12月10日
四大维度全景揭秘阿里巴巴智能对话开发平台
云栖社区
11+阅读 · 2019年1月15日
相关基金
国家自然科学基金
0+阅读 · 2017年12月31日
国家自然科学基金
3+阅读 · 2016年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
2+阅读 · 2014年12月31日
国家自然科学基金
4+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Top
微信扫码咨询专知VIP会员