人工智能开发的道德边界在哪里？

2019 年 9 月 23 日 中国计算机学会

本论坛将于CNCC2019中国计算机大会第二天（10月18日）下午在苏州金鸡湖国际会议中心A206会议室举行，本论坛将从人工智能风险问题开始，分析风险背后的“原罪”，解读人工智能开发应遵循的基本原则，探讨人工智能治理的框架和行动指南。

时间：10月18日13:30-17:00

地点：苏州金鸡湖国际会议中心 A206室

论坛简介

随着人工智能技术的崛起，第四次工业革命的序幕已悄然拉开。未来机器将越来越智能化，越来越具备“人”的特性，人机关系也产生了巨大变化。因此，人工智能伦理带来的伦理问题与社会挑战正吸引着全社会的目光。如何避免算法歧视？如何保护数据隐私？如何合理地设计机器人？电车难题是否有了解决方案？

本论坛将从人工智能风险问题开始，分析风险背后的“原罪”，解读人工智能开发应遵循的基本原则，探讨人工智能治理的框架和行动指南。

论坛主席

论坛主席

杨士强

清华大学教授，博士生导师。鹏城实验室党委书记、前沿学术中心主任。1977年清华大学毕业留校任教，曾任清华大学计算机系党委书记、学位分委员会主席、国家级计算机实验教学示范中心主任等。现兼任中国计算机学会（CCF）监事长、党委书记，中国图像图形学会常务理事、中国科协全委会委员。他获国际会议、期刊论文奖十余次，多次被评为清华大学良师益友，曾获北京市师德先进个人、教学名师等称号，2018年被评为CCF杰出教育奖。

共同主席

齐竹云

现任鹏城实验室前沿学术中心副主任、科研发展部科技合作办公室主任，CCF YOCSEF深圳现任主席。曾任中国航天科技集团北京航天自动控制研究所基础平台软件主任设计师，完成国家重点型号研制任务10余项；获得军队科技进步奖二等奖2项，三等奖1项，航天一院改进奖7项，编写航天行业标准5项，获批中国发明专利2项、国防专利1项。

在线主席

莫磊

深圳云天励飞技术有限公司战略规划总监，CCF YOCSEF深圳AC委员。曾任荷兰ASML高级产品工程师，负责计算光刻核心产品的设计并主导深度学习与计算光刻的结合研究。加入云天励飞后出任战略规划总监，负责公司技术规划、战略规划以及技术合作等事务，主导公司的创新产品孵化；同时主导公司关于数据隐私以及人工智能应用伦理的制度建设，并作为项目负责人之一参与深圳市高层次人才科学道德伦理认知状况研究项目。

讲者和报告简介

邓小铁

报告题目：与AI交互间的伦理挑战

摘要：人工智能与人类的关系始终是人工智能发展中反复被提出来的让专家学者争论议题。关掉电闸经常是人类优越性的简单回应。而伦理的争议在今天变得更为重要，是人类数据对人工智能的推进起到了重要的作用。而数据的选取的不同使得人工智能算法的认知公平性，使得人工智能的伦理将人类公平性偏见以算法形式固化。而且人工智能对专业智能工作职位的取代而改变人类财富分配现状，也带来社会伦理角度的困扰。算法管理的责任，获利代价的承担，政府职能的智能化，个人数据的商业化应该如何从伦理学的思考来界定其合理性。

报告人介绍：Xiaotie Deng got his BSc from Tsinghua University, MSc from Chinese Academy of Sciences, and PhD from Stanford University in 1989. He is currently a chair professor at Peking University. He taught in the past at Shanghai Jiaotong University, University of Liverpool, City University of Hong Kong, and York University. Before that, he was an NSERC international fellow at Simon Fraser University. Deng's current research focuses on algorithmic game theory, with applications to Internet Economics and Finance. His works cover online algorithms, parallel algorithms, and combinatorial optimization. He is an ACM fellow for his contribution to the interface of algorithms and game theory, and an IEEE Fellow for his contributions to computing in partial information and interactive environments.

王巨宏

报告题目：以科技向善迎接数字时代新挑战

摘要：过去的二十年整个世界特别是中国经历了PC互联网、移动互联网的颠覆大潮。社会、产业、生活等方方面面都产生了巨变。而下一轮以 AI、大数据、生命科学为代表的科技浪潮正在形成、叠加，逐步建构新的数字时代。数字科技的发展已经触碰到了人类社会的底层架构，科技在未来数十年就可能引发许多深层的社会问题。科技公司不仅仅是技术发展的推动者，科技时代的受益者，更有能力和义务去以面对科技带来的社会问题，以科技去解决社会问题，创造更多更有益的社会价值。本报告将分享腾讯在科技向善方面的思考以及实践。

报告人介绍：腾讯公司副总裁。国家“万人计划”科技创新领军人才，并担任中国计算机学会副理事长、教育部新工科研究与实践专家组专家、中国数字经济百人会执委会副主任。王巨宏女士，有近20年的IT及互联网行业从业经历，牵头承担云计算、城市街景、人工智能等多个国家项目，同时主导建设和运营腾讯微校智慧校园、腾讯敏捷研发平台TAPD、腾讯乐享等企业应用产品与行业解决方案；主导推动腾讯内外部开源；主导建设腾讯犀牛鸟产学研合作项目。

曾毅

报告题目：人工智能伦理原则：全球景观、挑战与技术探索

摘要：人工智能伦理原则的制定关乎人工智能未来的发展方向。世界上不同国家、组织、企业提出了各自的人工智能发展准则。本报告中首先尝试构建全球人工智能伦理原则的全球图景，分析其中的思考与预见。提出协同各个伦理原则提案，构建全球互补的国际伦理原则框架并分享技术与社会落地实践是人工智能国际治理的未来。在此基础上，将讨论人工智能风险、伦理与治理的具体挑战与模型、算法进展，介绍人工智能如何在技术层面规避、降低存在的风险隐患、自主学习人类价值观，从而使得人工智能技术向更可信赖和对社会有益的方向发展。

报告人介绍：中国科学院自动化研究所研究员，类脑智能研究中心副主任，中国科学院大学岗位教授，科技部人工智能治理专业委员会委员，北京智源人工智能研究院人工智能伦理与安全研究中心主任，世界卫生组织健康领域人工智能伦理与治理专家组成员，世界经济论坛全球未来委员会价值、伦理与创新专业委员会委员。研究领域主要涉及类脑人工智能及人工智能伦理。研究工作通过受脑结构与机制启发，构建类脑神经网络与认知计算模型，应用于类脑智能机器人。并对人工智能安全、伦理及其技术实践展开研究，确保人工智能的研究向对人类及社会有益的方向发展。

特邀嘉宾

黄铁军

北京大学计算机科学技术系教授，北京智源人工智能研究院院长，主要研究方向为智能视觉信息处理与类脑智能。国家杰出青年科学基金获得者（2014），教育部长江学者特聘教授（2015），万人计划科技创新领军人才（第四批）。兼任新一代人工智能产业技术创新战略联盟（科技部）秘书长（2017～），国家人工智能标准化总体组（国标委）副组长（2018～），教育部人工智能科技创新专家组工作组副组长（2018～）。曾获国家技术发明二等奖（2017），国家科学技术进步二等奖（2012，2010）和中国科协求是杰出青年成果转化奖（2014）。

吴天岳

北京大学长聘副教授，北京大学哲学系外国哲学教研室主任，博古睿研究中心研究员，兼任北京大学西方古典学中心副主任。博士毕业于比利时鲁汶天主教大学哲学研究所。主要研究西方古代和中世纪哲学，专注于该时期的心灵哲学和伦理学研究，同时关注当代理论研究，尤其是人工智能、基因编辑技术等前沿科技带来的伦理挑战。相关领域著有中文专著一种，英文论文十余篇，曾入选国家“万人计划”青年拔尖人才。

姜桂林