CNCC技术论坛 | 人工智能与信息安全

2018 年 10 月 20 日 中国计算机学会

本次论坛，我们将从机器学习在安全方面的应用，讨论人工智能和网络安全方面的交叉研究以及机器学习本身的面临的安全问题，从而进一步推动工业界的发展。

时间： 2018年10月25日13：30-17：00

地点：杭州国际博览中心会议区二层206室

近年来，机器学习已成为不可缺少的技术，使我们能够从众多行业和应用中的大量数据中获取见解。机器学习已经被大规模应用在智能感知、语言识别、医学诊断和自动驾驶等领域。在信息安全方面，机器学习也被用来识别威胁攻击和异常活动。然而，机器学习本身也容易受到攻击，机器学习算法设计本身并没有很好地考虑安全方面的性能。另外一个难题是，对机器学习的保护和维护非常困难，因为我们缺乏理论工具来指导我们来制定防御策略。本次论坛，我们将从机器学习在安全方面的应用，讨论人工智能和网络安全方面的交叉研究以及机器学习本身的面临的安全问题，从而进一步推动工业界的发展。论坛主要覆盖如下几个话题:

（1）对抗机器学习中的风险和应对方法；

（2）深度学习中的攻击与防守；

（3）基于AI的文本分析技术在安全产业的应用；

（4）人工智能脆弱性在语音方面的利用；

（5）人工智能及信息安全中的伦理学问题。

主席

徐文渊

徐文渊女，博士，现任浙江大学电气工程学院教授博导, 浙江大学系统科学及控制研究所系主任，国家“青年千人计划”入选者、美国国家NSF CAREER 奖获得者、美国南卡罗莱纳大学终身教授(Tenured Associate Prof.)。从事物联网安全研究多年，研究包括智能设备安全，车联网安全，和智能电网安全。主持过多项美国国家基金和中国国家自然科学基金的研究项目。现任包括TOSN等国际期刊编委(Associate Editor)，担任国际学术会议程序委员会委员和分会主席数次。

共同主席

韩伟力

韩伟力教授，博导，复旦大学软件学院副院长，中国电子学会信息安全专家委员会副主任委员，上海计算机学会信息安全专委会秘书。研究方向：数据系统安全、访问控制、大数据试验场。近几年在USENIX Security, ACM SACMAT, ASIACCS, IEEE TDSC, IEEE TIFS, IEEE TPDS, Computers & Security等权威会议期刊发表系列学术论文，承办访问控制领域旗舰会议ACM SACMAT 2016。现为《International Journal of Communication Systems》（SCI期刊）、《网络与信息安全学报》、《信息安全学报》编委成员。

特邀嘉宾

李康

李康博士目前担任 360 智能安全研究院负责人。李康曾获得清华大学计算机学士学位，耶鲁大学法学硕士学位，俄勒冈研究院计算机博士学位。李康博士主要关注的研究方向包括系统与网络安全。李康博士与工业界有紧密交流，曾多次受邀在 Black Hat，SyScan，ISC 等会议上发表演讲。李康博士是网络安全对抗赛CTF最早的实践者，他是XCTF联赛的联合发起人和清华蓝莲花战队的启蒙导师。

演讲题目：人工智能系统实现中的安全风险

摘要：本次演讲将探讨人工智能系统在现实中面临的安全问题，尤其是深度学习应用中的安全挑战。当前的许多AI安全研究集中在对抗样机器学习（adversarial machine learning) 方面，但人工智能系统中的潜在威胁不仅仅来自对抗样本攻击。现实中的人工智能系统会面临软件实现，数据流处理，模型供应链等方面的各种挑战。本次演讲将通过几方面的实例从安全的角度来审视人工智能应用，并从攻防两个角度来展示人工智能应用中的风险以及应对方法。

朱军

清华大学计算机系教授，清华大学人工智能研究院院长助理。2001到2009年获清华大学计算机学士和博士学位，之后在CMU做博士后，2011年回清华任教，2015到2018年任卡内基梅隆大学兼职教授。主要从事机器学习基础理论、高效算法及应用研究，在国际重要期刊与会议发表论文百余篇。担任IEEE TPAMI的副主编和编委、AI编委，担任机器学习国际大会ICML2014地区联合主席, ICML (2014-2018)、NIPS (2013, 2015, 2018)、IJCAI（2015,2017）、AAAI（2016-2018）等国际会议的领域主席。获CCF自然科学一等奖、北京市教学成果一等奖、CCF青年科学家奖、中创软件人才奖等，入选国家“万人计划”青年拔尖人才、MIT TR35中国区先锋者以及IEEE Intelligent Systems评选的“AI’s 10 to Watch”。

演讲题目：深度学习的对抗攻击与防守

摘要：深度学习模型（或一般的机器学习方法）通常容易被对抗噪声攻击，这给实际应用带来了很多风险。如何有效进行攻击以及如何进行防守受到了学术界和工业界的广泛关注。谷歌公司在NIPS 2017会议上举办了一个对抗攻击与防守的竞赛，吸引了百余支队伍。在这个报告中，将介绍深度学习对抗攻击与防守方面的一些最新进展，包括赢得NIPS竞赛的解决方案以及一些近期的工作。

陆全

美国南加州大学博士，负责集团系统和数据安全领域算法的开发。有十余年将大规模统计机器学习，数据挖掘和深度学习成功应用的业界经验，曾在雅虎和Experian带领研发团队。并在顶级国际会议上发表论文二十余篇，拥有多项国际专利。

演讲题目：基于AI的文本分析技术在安全的应用及研究

摘要：本报告将讲述文本分析和处理技术在阿里安全的几个场景的应用，包括敏感文本信息识别，情报舆情感知，欺诈短信检测，WAF攻击检测等。并着重以欺诈短信检测为例，结合实际中的三个主要挑战：借助人工标注提升覆盖率，构造训练样本提升准确率，应对变异和对抗提高鲁棒性，来介绍我们的技术和成果。

陈恺

中国科学院信息工程研究所研究员、中国科学院大学教授、博士生导师。信息安全国家重点实验室副主任，《Cybersecurity》编辑部主任。国家“万人计划”青年拔尖人才、北京市“科技新星”。2010年获中国科学院研究生院博士学位，美国宾州立大学博士后。中国保密协会隐私保护专业委员会委员，中国计算机学会系统软件专委会委员。主要研究领域包括软件与系统安全、人工智能安全。在IEEE S&P、USENIX Security、ACM CCS、ICSE、ASE等发表论文70余篇；曾主持和参加国家重点研发计划、国家自然科学基金、863计划等国家部委课题40余项。

演讲题目：人工智能时代下的安全攻防

摘要：本报告将讲述人工智能在网络空间安全中的应用，具体包括两部分内容：（1）人工智能技术如何帮助传统网络安全工作，如漏洞的利用；（2）人工智能技术本身的安全攻防，包括人工智能算法脆弱性等问题，例如利用人工智能算法的脆弱性实现语音的欺骗。

王国豫

现为复旦大学哲学学院伦理学教授，博士生导师,复旦大学应用伦理学研究中心、生命医学伦理研究中心主任。先后在复旦大学、柏林自由大学、大连理工大学和斯图加特大学学习。2000年和2003年二次作为德国学术交流中心（DAAD）访问学者在马格德堡大学访学。2005年至2008年应邀在德国斯图加特大学哲学系担任客座教授。兼任中国自然辩证法研究会科技与工程伦理专业委员会副理事长，技术哲学、生命伦理学、环境伦理学研究会等常务理事，中国毒理学会纳米毒理学专业委员会委员，国际人类表型组计划伦理委员会主任，复旦大学生命科学院伦理委员会主任等。王国豫的研究领域主要是科学技术伦理学。她是国家社会科学基金重大项目“高科技伦理问题研究.”首席专家，国家重点研发计划重点专项“精准医疗的伦理、政策法规框架研究”首席科学家。