经典算法论坛——安全可靠人工智能算法

经典算法论坛——安全可靠人工智能算法 | YEF 专题论坛

2022 年 6 月 8 日 中国计算机学会

YEF2022将于2022年6月9-11日举行，其中6月11日下午的专题论坛“ 经典算法论坛——安全可靠人工智能算法”将围绕算法安全、数据安全、算法稳定性、算法公平性等方面进行报告分享和问题研讨，引导国内人工智能领域相关学者聚力突破。

本届大会免费线上参会，届时将通过百度、知乎、量子位、腾讯Wiz、蔻享、快手、B站、爱奇艺、视频号等多家网络平台直播，点击获取大会直播日程及直播间入口信息

人工智能算法在推动信息通信技术创新、积极促进经济社会发展的同时，也在数据安全、个人隐私、社会公平性等方面带来了新的挑战。近年来，我国的法律法规给算法治理提供了法律依据，同时由于算法兼具技术属性和社会属性，还需要借助技术来实施算法规制。在张钹院士等专家提出的第三代人工智能发展路径中，“安全可靠”是下一代人工智能的核心发展目标之一，数据与算法安全也成为学界和业界人士重点关注的研究主题之一。第十二届CCF青年精英大会（YEF 2022）于2022年6月11日下午在北京西郊宾馆举办主题为“经典算法论坛——安全可靠人工智能算法”的专题论坛，围绕算法安全、数据安全、算法稳定性、算法公平性等方面进行报告分享和问题研讨，引导国内人工智能领域相关学者聚力突破。

本论坛邀请了国内安全可靠人工智能领域科研和产业一线专家，从开放环境下的人工智能算法安全、数据隐私保护、因果推理和稳定预测、推荐算法公平性、移动设备安全可信性等几个方面进行探讨，期望在学术界、产业界和大众之间搭建一座有效交流的桥梁，为安全可靠人工智能技术发展略尽绵薄之力。下面我们来提前了解一下讲者与报告主题。

论坛举办及直播时间：6月11日13:30~17:30

在线直播间：（请提前关注和收藏）

嘉宾介绍

陈恺

报告主题：开放环境下的人工智能安全

报告摘要：报告将介绍开放环境下的人工智能安全问题，包括真实物理世界中的对抗样本、模型的精细化修复等问题。具体将介绍移动平台下的真实神经网络模型，目前学术界常用的模型和数据集多为MNIST、CIFAR-10等，真实世界中的模型是否会有区别，报告中将详细介绍。针对这类问题，与传统修复方法不同，我们提出了“神经网络手术刀”，可定位出引发错误的神经元进行修复，将传统模型修复的“大手术”转变为“微创手术”。

嘉宾介绍：陈恺，中国科学院信息工程研究所研究员，中国科学院大学教授/博士生导师，信息安全国家重点实验室副主任，《信息安全学报》编辑部主任。主要研究领域包括系统安全、人工智能安全。发表论文100余篇，陈恺研究员获得中国科学院青年科学家奖、CCF-IEEE CS青年科学家奖，获北京市“杰出青年”基金支持、入选北京市智源青年科学家、CCF杰出演讲者等。

陈薇

报告主题：人工智能算法安全挑战与探索

报告摘要：在大数据和大算力的支持下，人工智能算法帮助多个领域取得了性能突破，同时正在更多领域交叉应用。然而，伴随而来的还有智能算法在数据隐私保护、鲁棒性/可靠性和公平性等多方面的安全挑战，如何提高智能算法的安全可信程度成为人工智能亟待解决的问题。这个报告将介绍算法安全方面的一些探索，包括保护隐私的学习、因果学习和对抗学习等。

嘉宾介绍：陈薇，中国科学院计算技术研究所研究员、博士生导师，曾任微软亚洲研究院计算学习理论组负责人。研究兴趣包括机器学习基础理论和算法、可信机器学习、分布式机器学习等，发表学术论文50余篇，担任ICML、NeurIPS等国际会议的领域主席或者高级程序委员，2012年荣获微软亚洲研究院科技突破奖，2021年入选福布斯中国科技女性榜。

崔鹏

报告主题：因果启发的稳定学习

报告摘要：近年来人工智能技术的发展，在诸多垂直领域取得了性能突破。但当我们将这些技术应用于医疗、司法、工业生产等风险敏感领域时，发现当前人工智能在稳定性、可解释性、公平性、可回溯性等“四性”方面存在严重缺陷。究其深层次原因，当前统计机器学习的基础——关联统计自身不稳定、不可解释、不公平、不可回溯可能是问题的根源。相对于关联统计，因果统计在保证“四性”方面具有更好的理论基础。但如何将因果统计融入机器学习框架，是一个开放并具挑战性的基础性问题。本报告中，讲者将重点介绍将因果推理引入预测性问题所提出的稳定学习理论和方法，及其在解决OOD泛化问题方面的机会和挑战。

嘉宾介绍：崔鹏，清华大学计算机系长聘副教授、博士生导师。研究兴趣为大数据驱动的因果推理和稳定预测、大规模网络表征学习等。发表论文100余篇，5次获得顶级国际会议或期刊论文奖，两次入选数据挖掘领域顶级国际会议KDD最佳论文专刊。曾获得国家自然科学二等奖、教育部自然科学一等奖、CCF-IEEE CS青年科学家奖，入选ACM杰出科学家。

何向南

报告主题：推荐算法公平性研究现状与展望

报告摘要：本报告从推荐系统“不公平“的实际案例出发，介绍推荐算法公平性的重要性和意义。然后概述当前推荐学术领域对公平性问题的定义、主要解决方案和面临挑战。最后展望推荐算法公平性研究的未来发展方向。

嘉宾介绍：何向南，中国科学技术大学教授、博导，大数据学院副院长，CCF YOCSEF合肥2021-2022主席。致力于信息检索与推荐、数据挖掘等方向研究，发表论文100余篇，曾获SIGIR 2021、WWW 2018、SIGIR 2016最佳论文提名奖、达摩院青橙奖等，在2022年AI 2000人工智能最具影响力学者“信息检索与推荐”领域排名第一，2021年Elsevier中国高被引学者。

胡志远

报告主题：基于层次分析模型的智能手机可信评估

报告摘要：移动互联网高度普及的今天，各类电信诈骗新套路层出不穷，做好个人信息安全和隐私保护是防范被骗的关键。为尽量避免用户个人隐私数据的泄露，保障vivo数亿级设备的安全可信，本报告重点介绍vivo推出的行业内首个全方位、实时的可信评估解决方案——千镜可信引擎。

嘉宾介绍：胡志远，博士，教授级高工、国务院政府特殊津贴专家，目前担任vivo安全研究总监。从事终端安全、信息安全、网络安全等研究，作为第一牵头人完成了5项国际标准、申请50余项专利、发表学术论文20余篇，担任科技部“网络空间安全”重点专项评审专家、国家科学技术奖励评审专家、国际电信联盟ITU-T SG17 WP2(5G&IoT&ITS)副主席等。

论坛议程

论坛时间：6月11日下午13:30-17:30

时间议程

13:10 签到

13:30 论坛开始

13:30-13:40 论坛背景介绍

13:40-14:20 特邀报告一：陈恺

特邀报告主题：开放环境下的人工智能安全

14:20-15:00 特邀报告二：陈薇

特邀报告主题：人工智能算法安全挑战与探索

15:00-15:40 特邀报告三：崔鹏

特邀报告主题：因果启发的稳定学习

15:40-16:20 特邀报告四：何向南

特邀报告主题：推荐算法公平性研究现状与展望

16:20-16:35 特邀报告五：胡志远

特邀报告主题：基于层次分析模型的智能手机可信评估

16:35-17:30 论坛议题讨论

执行主席

董彬

个人简介：董彬，CCF YOCSEF学术委员会委员，北京大学北京国际数学研究中心长聘副教授、北京大学国际机器学习研究中心副主任。研究领域为科学计算、机器学习及其在计算成像和数据分析中应用。

于静

个人简介：于静，CCF YOCSEF学术委员会委员，CCF多媒体技术专业委员会委员，中国科学院信息工程研究所副研究员，研究领域为跨模态智能分析、网络安全等。

大会完整直播日程及直播间入口：倒计时一周！YEF 2022免费直播日程公布！多网络平台直播，提前锁定，精彩不错过！

YEF 2022各地线下会场将严格遵守当地防疫政策，并将采取严格的防疫管理措施，确保参会安全，敬请现场参会者理解配合。

关于YEF 2022 大会围绕“计算+行业”的蓝图，以“ 大计算、大融合 ”为主题，邀请国内外来自高校、科研单位、大型IT企业的著名专家作高水平的学术、技术报告，同时还组织畅想未来的“思想秀”，展现计算机界青年创业者风采的“科技创业秀”，为大学生提供展示舞台的“大学生学术秀”。除此之外，本次YEF更推出“我国软件供应链安全问题及解决之道”、“探寻当代科技Heroine（女性英雄）的成长模型”、“安全可靠人工智能算法”、“大规模强化学习的未来之路”、“人工智能如何助力科学发现与计算？”等22个值得期待的观点论坛和技术论坛。另有“青科看未来——人工智能的发展困境和突破机遇”大会论坛和““计算+”的成功经验与所面临的挑战”大会论坛。

CCF推荐

【精品文章】