1956年,在美国达特茅斯学院的学术研讨会上,麦卡锡等科学家首次提出“人工智能”(AI)这一概念,至此AI学科诞生。
我们在享受AI技术带来便捷的同时,安全隐患也随之出现:
5G时代,自动驾驶呼之欲出。如果有人把假的交通标识放在路边,会不会造成灾难?
手术中的医疗机器人,因血液溅到摄像头,导致机器人“失明”,软件系统“带病”上岗,一旦“发病”或被人操控,会带来怎样的后果?
AI技术为人们提供了前所未有的贴心服务,但如果智能模型中留有“后门”,如何避免AI设备被恶意“劫持”?
这些安全隐患之所以没有影响我们的正常生活,是因为一直有一支支隐秘的队伍,在前仆后继地守护着网络安全。
他们深知,表面平静的网络世界暗潮汹涌,他们用代码抵御黑客的枪林弹雨,用十指化解黑灰产的恶行。
他们默默守护着千万用户。他们,被称为“安全人”。
2018年,腾讯守护者计划安全团队在工作中遇到过一个特殊的黑产团伙,该团伙在相关的攻防场景里,用了当时颇为流行的Caffe深度学习框架和卷积神经网络,这使得他们同其他竞争者相比攻击效率有了数倍的提升。
AI技术如此齐整整地用于黑产,这是国内首例!
尽管这个黑产团伙后来被及时打掉,但这也让安全从业者意识到一个事实——
AI技术,必将是安全战场攻防两端的兵家必争之地。
此后,腾讯安全朱雀实验室开始在AI安全方面做大量细致、深入的探索,他们的研究和实践主要覆盖四方面:
(1)AI 技术本身的安全性。
(2)AI 技术可能被攻击利用的地方。
(3)AI 技术为防守助力。
(4)AI 技术之以攻促防,攻防联动。
AI安全前沿技术,终于立地成书
经过一年多打磨,国内首部揭秘AI安全前沿技术图书——《AI安全:技术与实战》于2022年金秋十月重磅上市。
腾讯安全平台部掌舵人杨勇(coolc)说:
“我们走过一些弯路,也有过一些收获。
我们参考了很多前辈和行业专家的经验成果,也分享过一些小小的发现。而正是在这个探索过程中,我们意识到,前辈们的探索经验和研究成果,为我们所进行的安全研究工作带来了诸多的便捷性。
本着继承和发扬前辈们的开放、协作和共享精神,我们也将工作中的点滴进行了总结与归纳,把研究历程中的一些经验沉淀下来形成这本书。”
本书的重点锚定在AI安全发展的通用技术上。
从实际应用场景的视角出发,对各类攻击方法及其技术原理进行了分析,并详细介绍了基于不同算法和数据实验的实现过程和案例总结,助力提升AI技术的安全性!
作者团队——腾讯安全朱雀实验室。
朱雀实验室专注于AI安全技术研究及应用,围绕对抗机器学习、AI模型安全、深伪检测等方面取得了一系列研究成果,议题入选CVPR、ICLR、CanSecWest、HITB、POC、XCon等国内外顶级会议,面向行业发布了业内首个AI安全威胁风险矩阵,持续聚焦AI在产业应用的安全问题,助力AI安全技术创新。
《AI安全:技术与实战》蝉联榜首25天
京东计算机安全类目
技术最前沿
从AI自身安全性角度出发,揭秘对抗样本攻击、数据投毒攻击、模型后门攻击、预训练模型中的风险与防御、AI数据隐私窃取攻击,以及AI应用失控等方面,以期提升AI技术的安全性。
攻击方法和原理,详细拆解
14个精选实战案例,原汁原味呈现,一次读过瘾
朱雀团队实战经验沉淀,带领读者深入学习和理解
全彩极致设计,享受真实视觉体验
腾讯首席科学家、腾讯AI Lab和腾讯Robotics X实验室主任张正友说,
这本书凝聚了朱雀团队在AI安全技术的研究和实践中积累的多年经验,我相信这本书将对AI安全领域的研究人员和管理人员带来极大的帮助。
清华大学教授江勇说,
这本书从实际应用场景的视角出发,提供了包括代码在内的多个具有代表性的实战案例。相信本书提供的实战案例能够帮助读者更加快速、深入地了解人工智能安全的各项技术在实际应用场景下的具体部署和应用。
腾讯安全科恩实验室负责人吴石说,
这本书对于AI本身的安全问题做了一个全面的阐述与总结,系统化地对AI安全测试的方法做了细致的分类与讲解,具有很强的实用性。无论你是研究AI,还是研究安全,这本书都有很高的价值。
阿里云安全负责人欧阳欣说,
攻与防永远是螺旋式上升的态势,“AI安全”仅仅才是开始,我推荐本书给每一个安全从业者。除此之外,我一直认为最优秀的程序员一定懂得如何写出安全的代码。因此,我也推荐本书给每一位AI从业人员,一起致力于打造出安全的AI。
AI领域研究人员、管理人员
AI安全领域从业者
想通过实战案例辅助学习的AI爱好者
01. 全书实战代码,全部送
02. 进入专属读者群,朱雀在线为你答疑
科技的力量让人类文明更加美好,
这一切离不开过去20年间网络安全从业者的苦心耕耘。
毕竟,
群星之所以闪耀动人,
是因为他们漫天交相辉映。
本书献给每一位网络安全从业者,
感谢你们的守护。
京东限时优惠,快快扫码抢购吧!
PaperWeekly携手博文视点送书啦!
点击下方名片关注「AI 求职」
在后台回复暗号“安全”
即可参与赢取这本AI安全必读新书
奖品数量共计 10 份!
活动截止时间为 11 月 7 日 09:00