对抗样本生成及攻防技术综述

摘要： 随着机器学习技术在生产、生活等各个领域的广泛应用，机器学习算法本身的安全问题也引起越来越多的 关注。基于对抗样本的攻击方法是机器学习算法普遍面临的安全挑战之一。以机器学习的安全性问题为出发点，介 绍了当前机器学习面临的隐私攻击、完整性攻击等安全问题，归纳了目前常见对抗样本生成方法的发展过程及各自 的特点，总结了目前已有的针对对抗样本攻击的防御技术，最后对提高机器学习算法鲁棒性的方法做了进一步的展 望。

作者介绍：

朱清新：1982年1月四川师范大学数学系本科毕业获学士学位。1984年7月北京理工大学应用数学专业毕业获硕士学位。1984年8月起任西南技术物理研究所工程师、副研究员，作为技术骨干参加了国防科工委7712工程项目并获科研成果三等奖。1993年5月渥太华大学应用数学和电子工程系控制论专业毕业获博士学位。1993年5月至1996年3月在渥太华大学电子工程系和加拿大卡尔顿大学计算机学院从事博士后研究并获计算机第二硕士学位。1996年3月至1997年11月任加拿大Nortel公司和OmniMark高级研究员。1998年3月应聘回国到电子科技大学计算机学院工作，1999年6月聘为教授、2001年6月聘为博士生导师。2002年9月至2003年3月赴加拿大蒙特利尔Concordia大学计算机系任高级访问学者。现任电子科技大学计算机学院学术委员会主任，计算运筹学研究室主任。主要研究领域包括：生物信息学、信息检索、计算运筹学与最优化。

张小松： 长江学者特聘教授，国家重点研发计划网络空间安全专项首席科学家， 2017年网络安全优秀人才奖获得者。长期致力于软件安全、网络安全和数据安全领域的研究，成果在应用中取得重要的社会和经济效益，近年来多次获国家和省部级成果奖励，发表包括CCF A类期刊IT、TSE、TIFS在内的学术论文六十余篇，出版了《网络安全协议》、《恶意软件分析与检测》、《软件测试》等专著、教材和译著5部，获授权国际、国内发明专利22项，公开50多项，获软件著作权登记10项。