【预告】“人工智能与安全”讲习班开始报名
人工智能作为引领新一轮科技革命和产业变革的战略性技术，是我们赢得全球科技竞争主动权的重要战略抓手，是推动科技跨越式发展、实现产业优化升级、生产力整体跃升的重要战略资源。随着全球人工智能规模化建设及应用加速，人工智能基础设施、设计研发以及融合应用面临的安全风险日益凸显，利用人工智能技术发动网络攻击、伪造舆论信息、窃取用户隐私等危害日益严重。此外，对抗攻击、后门攻击等瞄准人工智能技术脆弱性的攻击手段也愈发繁杂多样。因此，如何确保人工智能的安全问题，是当下人工智能技术研究的热点和难点问题。
在此背景下，中国图象图形学学会于2021年10月23-24日在北京举办CSIG图像图形学科前沿讲习班（Advanced Lectures on Image and Graphics，简称IGAL），本期讲习班主题为“人工智能与安全”，由数字媒体取证与安全专委会、中国航天系统科学与工程研究院、南京信息工程大学计算机与软件学院、《网信军民融合》期刊承办，中国科学技术大学俞能海教授担任学术主任，邀请人工智能与安全领域的知名专家作特邀报告，使参会学者在了解学科前沿、提高学术水平的同时，增强与国内外顶尖学者的学术交流。
主办单位
中国图象图形学学会
承办单位
学术主任
俞能海
中国科大网络空间安全学院 执行院长
上课时间及地点
日程安排
特邀讲者
俞能海
中国科大网络空间安全学院 执行院长
报告题目：人工智能安全研究新进展
报告人简介：俞能海，中国科大网络空间安全学院执行院长，中科院电磁空间信息重点实验室副主任，中国科大信息处理中心主任，中国图象图形学学会副理事长，CSIG数字媒体取证与安全专委会主任，教育部网络空间安全教指委副主任委员。国家重点研发计划“网络空间安全”专项首席科学家。主要研究领域为视觉计算与安全，图像视频处理与分析，媒体内容安全等。曾获2019年安徽省自然科学奖一等奖等7项省部级科技进步奖；2021年国家网络安全先进个人，2019年国家网络安全优秀教师奖，2019年安徽省教学成果特等奖，2008年中国科学院教学成果二等奖，2012年（全国）宝钢优秀教师奖，2012年全国优博（提名）和中科院优博指导老师，中科院优秀研究生导师奖（2011，2012，2019），2018年获学校首届增华优秀教师奖。
报告摘要：人工智能的发展经历了漫长的历史，从最初提出的MCP神经元到现阶段的各类智能应用，其发展历程可大致划分为三个阶段，这期间经历过两次低谷。近年来，随着软硬件技术的发展和数据规模的提升，基于深度学习的人工智能技术取得了重大突破，也逐渐形成了算法——学派——技术领域——应用领域的层级式体系。但随之而来的是人工智能的安全问题，这是人工智能技术快速发展阶段不可回避的重要问题。人工智能技术的风险伴随了智能技术的整个生命周期和所有应用场景，而其中面临威胁最大的，正是如计算机视觉等应用最广泛的领域。现阶段人工智能安全主要有对抗样本攻防、数据毒化攻防、模型可解释、算法后门攻防、联邦学习、差分隐私机器学习、深度伪造与检测、机器学习开源框架平台安全漏洞等热点方向，中国学者也在这些热点方向上做出了重大突破。但从整体和长远来看，人工智能行业在“安全问题”上仍未做好充分准备。本报告针对人工智能安全这一主题进行聚焦，从保护AI赋能系统、利用AI提升安全防御、应对AI的恶意应用三个维度，具体解读人工智能安全的含义，并围绕模型水印、对抗样本攻防、Deepfake深度伪造及检测三个具体问题，介绍团队在人工智能安全领域的研究新进展。
荆继武
中国科学院大学密码学院 院长
报告题目：人工智能时代的信息安全方向
报告人简介：荆继武，教授、博士生导师，现任中国科学院大学密码学院院长，曾任中国科学院信息工程研究所副所长、中国科学院控股有限公司副总经理。国家十二五863计划信息安全主题专家组召集人；国家十三五网络空间安全重点研发计划实施方案及指南编写专家组组长；国家重大专项电子与信息板块监督评估组专家；国家信安标委鉴别与授权工作组组长；中国密码学会电子认证专业委员会主任；中国计算机学会计算机安全专业委员会副主任委员。获得国家科技进步一等奖、二等奖、密码科技进步一等奖等在内的科技奖项十余项，在国际四大信息安全顶级学术会议发表论文多篇。学术会议上，曾任AISIACCS 2010 组织委员会主席、SecureCOMM 2014程序委员会共同主席、IEEE CNS 2018 大会主席。
报告摘要：人工智能时代信息化发展形势的预判分享，信息安全技术的新方向——白盒化。人工智能技术正在加速网络共同体的形成，安全技术将逐步走向开放化、白盒化，以“密码算法的保密与开放”、“技术细节的保密与开放”为例进行深入解读。他强调，白盒化的安全是未来全球安全市场的重要方向，它的发展需得到市场支持，公开体系结构，从而推动安全技术产品的专业化完善和深度融合。
翁健
暨南大学 党委常委、副校长
报告题目：移动APP安全探讨
报告人简介：翁健，教授、博士生导师，国家杰出青年科学基金获得者，现任暨南大学党委常委、副校长，现兼任科技部网络与信息安全专家组专家、国家自然科学基金委信息学部会评专家、教育部网络空间安全教学指导委员会委员、中共广东省委网络安全和信息化领导小组专家咨询委员会委员等。长期从事密码学与信息安全领域研究工作，解决了密码学领域的4个公开问题，开创条件代理重加密研究领域，在CRYPTO、EUROCRYPT、ASIACRYPT、ACM CCS等顶级会议和期刊发表了100多篇论文，科研成果被包括美国工程院院士、哥德尔奖得主、ACM Fellow、IEEE Fellow、IACR Fellow、IPsec国际标准发明人等在内的学者广泛采纳和引用。主持了国家杰出青年科学基金、国家自然科学基金重点和面上、国家重点研发计划课题、广东省基础与应用基础重大项目等系列项目。
报告摘要：移动安全日益成为人们关注重点，相当多的移动消费者被各种各样的应用程序所吸引，这导致开发者投入资源来维持上升趋势。在早期阶段，开发者通常更关注应用程序的功能，而不是安全问题。不幸的是，它使应用程序成为攻击者的热门目标。为了解决这个问题，开发人员非常重视提高应用程序的安全性并将其升级到新版本，而将其早期版本分散在网络上。在本次演讲中，将介绍如何利用早期版本中存在的弱点，攻击流行应用程序的升级版本，包括Facebook、新浪微博和奇虎360云驱动。
报告题目：人工智能安全前沿进展
报告人简介：陈恺，研究员、博士生导师，中科院信工所信息安全国家重点实验室副主任，中国科学院大学教授，《信息安全学报》编辑部主任。中国计算机学会-系统软件专委会常委、人工智能学会-人工智能与安全专委会常委、中国保密协会-隐私保护专委会常委。主要研究领域包括系统安全、人工智能安全。在IEEE S&P、USENIX Security、ACM CCS、ICSE、ASE、TIFS、TDSC、TMC等发表论文100余篇；曾主持国家自然科学基金（重点项目）、国家重点研发项目课题等国家、部委课题40余项。RAID 2019大会副主席，S&P、USENIX Security、CCS等A类会议程序委员会成员。获得国家“万人计划”青年拔尖人才、北京市自然科学基金“杰出青年”基金、北京市智源青年科学家、北京市“科技新星”等资助。
报告摘要：人工智能技术的出现和广泛使用带来了前所未有的安全问题。本议题将从人工智能安全对抗展开，介绍人工智能对抗攻击、数据中毒、模型后门、模型窃取等攻击手段并探讨针对该类攻击的防御措施，同时也将讲述模型的知识产权保护手段、数据遗忘等隐私相关问题。
赫然
中科院自动化所模式识别国家重点实验室 研究员
报告题目：人脸图像合成与鉴别
报告人简介：赫然，研究员，中科院自动化所模式识别国家重点实验室，中国科学院大学岗位教授，国际模式识别学会会士(IAPR Fellow)。从事模式识别应用基础理论研究，并应用到计算机视觉、生物特征识别和人工智能安全，在华为、美团、京东等取得应用；近期主要聚焦在非监督机器学习以及深度合成中遇到的瓶颈问题。出版信息理论学习专著1部，在本领域国际主流期刊IEEE T-PAMI和IJCV上发表论文19篇，获IEEE SPS Young Author Best Paper Award(2020)、IAPR ICPR Best Scientific Paper Award(2020)、IAPR/IEEE ICB Honorable Mention Paper Award(2019)和北京青年优秀科技论文一等奖(2015)，承担了国家自然科学基金优秀青年科学基金、北京自然科学基金杰出青年科学基金和中科院青年促进会优秀会员等项目。他是IEEE T-IP、Patten Recognition和自动化学报等多个国内外期刊编委。
报告摘要：人脸图像合成是指使用深度学习等智能化技术对人脸图像数据进行修改、编辑和替换，进而创造出从身份内容或表观纹理上完全不同的图像。人脸图像合成及其鉴别是机器学习和计算机视觉等领域的重要研究内容之一，被广泛应用于影视媒体娱乐和人工智能安全，在国家公共安全领域具有重要研究意义。本报告结合人脸图像合成的实际应用需求，介绍“合成”与“鉴别”相辅相成、“攻击”与“防御”相互促进的对抗博弈机制；从信息理论角度探寻深度合成的信息交换本质，介绍不对称互信息、表象最优传输和信息瓶颈解表达等生成模型，以及全脸生成、属性编辑(年龄、光谱、样式)、身份交换、人脸重演(表情、姿态)、语音驱动人脸等合成方法；在鉴别安全方面，介绍轻量级神经网络架构等，该架构广泛应用于语音和人脸鉴伪。
刘哲
南京航空航天大学 教授
报告题目：大数据时代下隐私计算：从密码角度来看
报告人简介：刘哲，教授、博士生导师，国家青年特聘专家，南京航空航天大学，曾获得《麻省理工科技评论》中国区“35岁以下科技创新35人”、中国密码学会密码创新奖一等奖、阿里巴巴达摩院青橙奖、中国密码学会优秀青年奖，ACM中国SIGSAC学术新星奖及卢森堡国家自然科学基金委杰出博士毕业论文奖等奖项。入选海外高层次青年人才项目，中国科协青年人才托举工程、江苏省双创人才、六大人才高峰、333人才工程等人才计划。目前担任ACM中国SIGSAC秘书长、ACM中国SIGBED副主席及《IEEE Internet of Things Journal》等多个期刊的编委。长期从事信息安全领域的研究，发表学术文章100余篇，并受邀担任CHES 2020/2021，WASA 2021，INSCRYPT 2019等学术会议主席。
报告摘要：随着人工智能、区块链等技术的发展，数据已经成为重要的生产力。然而用户数据在使用的过程中频频泄露，安全事故频发，如何保障用户的数据隐私与安全已经成为当下的研究热点。本报告将从密码学的角度，分析当前几种主流的数据用户数据隐私计算方法，包括：可信执行环境、安全多方计算、同态加密等。本报告首先介绍这三种密码工具的基本概念，并对其在隐私计算中的效率、安全性方面做整体的总结。最后，从支持隐私计算的机器学习出发，介绍几种开源的隐私计算框架并指出隐私计算技术未来的发展发现。
阮娜
上海交通大学 副教授
报告题目：新型网络安全挑战与机遇
报告人简介：阮娜，副教授、硕士生导师，上海交通大学；中国计算机学会（CCF）高级会员，中国密码学会会员，CCF数据与网络通信/区块链/计算法学专委会执行委员，上海市信息安全专委会秘书；两度上海交通大学晨星优秀青年学者获得者；2012年获日本九州大学（Kyushu University）情报学府博士学位。期间2018年度受邀赴澳大利亚莫纳什大学(Monash University)区块链技术研究中心访问，现同时为上海交通大学区块链研究中心骨干成员。围绕人工智能安全、大数据隐私及区块链机制等发表论文40余篇，合著学术专著2项，授权专利2项，获CCF推荐会议WASA2017最佳论文入围奖。主持和参与科研项目共17项。主持的项目主要包括：国家自然科学基金青年项目，第二届中国计算机学会腾讯犀牛鸟科研基金项目，中国联通公司研究院、中国电信甜橙金融、奇安信、谷歌等横向项目。
刘艾杉
报告题目：深度学习鲁棒性技术研究：攻防与评测
报告人简介：刘艾杉，博士，北京航空航天大学，师从李未院士和刘祥龙教授，主要研究方向为鲁棒深度学习和可信赖人工智能，具体包括对抗攻击、模型鲁棒性、模型可解释性等。IEEE TIP、ECCV、AAAI、CVPR在内的国际权威学术期刊和顶级会议等发表论文20余篇，申请专利10余项。荣获省部级科技进步二等奖一项、腾讯犀牛鸟精英人才、CCF百名优秀大学生等奖励。担任国际顶级会议（CCF-A类）AAAI和ACM Multimedia的workshop主席并组织4次“智能安全”相关主题论坛。作为主要人员参与科技部人工智能重大专项和工信部基础平台建设等课题项目，参与标准编制2项、白皮书编制1项、专著编写1项。相关技术现已应用于商汤科技Adela平台（支撑和指导工业级模型鲁棒性评测和构建）、人工智能安全评测开源平台“重明”（在工信部、科技部重点项目中应用）以及OpenI启智开源社区中（助力开源社区算法安全评测）。
报告摘要：本报告将围绕深度学习所面临的对抗样本等安全挑战，介绍深度学习脆弱性问题、对抗攻击与防御（尤其是物理世界对抗攻防）国内外主要进展和具体研究案例，报告还将介绍团队近年来针对深度学习提出的测试、理解和优化的深度学习鲁棒性技术体系及相关的研究工作，最后将介绍最近发布的深度学习安全评测开源项目——“重明”和RobustART。
报名及注册费
本期讲习班限报100人，根据缴费先后顺序录取，报满为止。
2021年10月22日（含）前注册并缴费：CSIG会员2000元/人，非会员2500元/人（赠送1年CSIG会员）；现场缴费：会员、非会员均为3000元/人；CSIG团体会员参加，按CSIG会员标准缴费；同一单位组团（5人及以上）报名，均按CSIG会员标准缴费。
注册费包括讲课资料和2天会议期间午餐，其它食宿、交通自理。
即日起至2021年10月22日，请登录会议注册网站注册。
会议注册网址：http://conf.csig.org.cn/fair/411
联系方式
相关内容
微信扫码咨询专知VIP会员