2019 GAITC丨中国科学技术大学教授陈小平：如何借助AI伦理建设，帮助人工智能“天才儿童”更好地成长

2019 年 4 月 22 日 中国人工智能学会

5月25-26日，由中国人工智能学会主办，南京麒麟高新技术产业开发区管理委员会和京东云共同承办的2019全球人工智能技术大会将在南京紫金山庄举行。

大会将汇聚国内外人工智能及相关领域领军者，以国际化视角全景勾勒人工智能发展蓝图，洞见未来趋势，锚定产业方向。

5月25-26日,中国人工智能学会将在 2019 GAITC 大会上举办“全球视野下的人工智能伦理论坛”，对于国内人工智能伦理的规范制定、规划进展等相关工作问题，大会采访到该论坛主席中国人工智能学会人工智能伦理道德专委会主任、中国著名人工智能专家、中国科学技术大学机器人实验室主任陈小平教授来为我们解答。

陈小平

中国科学技术大学机器人实验室主任

计算机科学与技术学院教授

CAAI人工智能伦理道德专委会主任，中国RoboCup委员会主席、国际RoboCup联合会理事，安徽省机器人技术标准创新基地主任。曾任国际人工智能联合大会机器人领域主席、RoboCup机器人世界杯赛及学术大会联合主席。提出基于“融差性”原理和“开放知识”的机器人智能技术路线，并在“可佳”和“佳佳”智能机器人系统中进行了持续性研究和工程实现，多次获得国际大奖。

自2012年人工智能进入以深度学习为基础的第三次浪潮，不知不觉已过去了近七年。结合当前行业发展现状，AI在某些领域发展迅速，对众多行业的赋能作用越来越强，但依旧有很多地方发展还很迟缓，总体上很不成熟，同时也伴随着一系列技术和伦理隐患，在很多专家学者的眼里它像是一个“天才儿童”，也让大众对于AI这位“天才儿童”开始担忧起来。

以自动驾驶的安全性、数据隐私等问题为例，人工智能会给我们的未来造成哪些技术风险和社会伦理问题？人工智能未来会不会真的统治人类？种种亟待面对的问题让中国人工智能学会意识到，AI伦理对于人工智能的发展有着举足轻重的作用，筹建人工智能伦理道德专委会是助力中国人工智能学会发展的必然需要。

AI伦理被推到风口浪尖，是杞人忧天还是高瞻远瞩？

人工智能的发展为我们的生活带来越来越多的便利和新机遇，与此同时，人们对于它是否可能危害人类的生存又充满了担忧。对于人工智能未来发展走向异议蜂起，国际与国内的专家也开始关注AI伦理的研究，力求让人工智能在合理的轨道上高速发展。

国际上，今年4月8日，欧盟委员会人工智能高级专家组发布了“可信赖人工智能”伦理准则。国内，在今年两会期间，李彦宏在全国政协十三届二次会议第三次全体会议上作大会发言时也发表了“人工智能伦理将是未来智能社会的发展基石，要抓住人工智能的战略发展机遇期，加快伦理研究和创新步伐，构筑我国人工智能发展的竞争优势，早日建成智能社会，用技术造福百姓”的观点。

陈小平教授表示：“中国人工智能学会人工智能伦理道德专委会正着手进行中国人工智能伦理规范研究，计划设立智能驾驶伦理规范、数据伦理规范、智慧医疗伦理规范、智能制造规范、服务机器人伦理规范等子课题，目前智能驾驶和服务机器人伦理研究工作组已经开始着手工作。”

人工智能究竟有怎样的危害，我们所担心的事情究竟会不会成为现实？

“从我的个人判断，在三年以内发生严重风险是小概率事件。可是，如果将来不做好伦理规范体系建设，人工智能发生较大风险的概率将会上升。” 陈小平教授对此进行了解答。

目前人工智能技术的产业应用主要是局部技术的应用，将人工智能技术与其他技术结合，赋能传统行业。在这种模式下，AI和机器人将从事越来越多的工作，由此可能导致一部分人的工作被机器替代，这一问题需要加以妥善解决。因此，当人工智能技术的发展为企业助推转型升级、为生活带来便利的同时，也对社会带来新的挑战，需要有效应对。

在看科幻电影时我们想象过未来世界，想象过机器人带给我们的威胁。当阿尔法狗打败柯洁时，人们确切的感受到AI超强的学习能力，不禁会思考未来人工智能会不会占领地球、统治人类？

陈小平教授指出，迄今人工智能发展出了两种经典思维：一是以知识、推理驱动的暴力法，这种人工智能技术在理论上是可证正确的，因此风险管控主要是工程问题，相应的风险性相对小一些；另一种人工智能经典思维是数据、算法驱动的训练法，这种技术是通过人工标注数据加上算法训练，产生可自主计算的人工神经网络，这种技术目前在很大程度上还是一个“黑箱”，缺乏可解释性，更谈不上可证正确性，其风险性就比较大，目前人工智能界正在加紧寻找解决办法。

细分行业解决问题为基础，AI伦理规范才能真正落地

毋庸置疑，人工智能在赋能传统行业的同时，也带来了一些社会问题，虽然人工智能还未发展到威胁人类生存的程度，但人工智能方向的专家们开始意识到人工智能伦理体系建设已是刻不容缓。从欧盟正式发布人工智能伦理准则到谷歌成立AI伦理委员会，国际正在愈发重视AI伦理规范的规定制定。

陈小平教授谈到，现有的伦理、法律、法规行规等等，并不完全适用于人工智能的发展和人工智能伦理规范体系的建设，加之人工智能赋能百业的广泛渗透性，很多事情就难以理清，泛泛地谈论人工智能伦理规范，很难落地。因此，中国人工智能学会人工智能伦理道德专委会基于自身工作特性的定位，提出一个基本观点：为了解决AI伦理规范问题，首先必须针对各个具体行业，对现存和潜在的伦理风险进行深入的分析，作为我国人工智能伦理规范建设的一个必要基础。

以大家都在关注的无人驾驶方向来说，人工智能技术的突破具有不止一个可能的发展方向，不同发展方向所使用的技术是非常不同的，相应的技术风险和伦理风险也是十分不同的，所需的社会制度性支持也是不同的（比如追责机制）。因此，中国人工智能学会人工智能伦理道德专委会组建的智能驾驶伦理规范研究工作组，是由国内智能驾驶一流专家领衔的，同时邀请相关领域的专家，共同开展深入的分析研究，在此基础上提出我国智能驾驶伦理规范建议。

从我国社会和经济发展的角度来看，“机器换人”是必然趋势，随之便会带来一部分工人失业及相关的一系列社会问题。其他人工智能方向也存在类似情况。因此，AI伦理不仅仅需要一线科研人员发现潜在的技术和伦理风险，同时也需要法律学、社会学、伦理学等社科背景的专家以及行业组织、企业的共同参与，研究可落地的解决方法，探讨有效的政策建议，共同讨论人工智能伦理建设的热点议题。

六

莫让“天才儿童“误入歧途

有人担心AI伦理规范会困住AI发展的手脚，有的企业担心侵害到自身利益。其实，AI伦理建设的根本目的是让人工智能研究和产业更健康地发展，这对相关企业也是一个发展机遇。

AI技术风险预测和伦理规范规则既可以为相关企业划出不可逾越的红线，又可以提供风向标，一方面引领企业更好地树立社会责任感，在合理、合法的范围内发展自身，另一方面为企业进行更合理、更有效的产品研发提供参考。

中国改革开放走过了40年，在改革开放的下半场，我们还要不顾一切地追求经济发展吗？经济发展要不要与社会精神文明相协调？陈小平教授表示：人工智能伦理建设是完全符合中国社会发展的阶段特性的。

人工智能伦理建设非一日之功。人工智能看似发展迅猛，但是它还是个“孩子”。AI伦理要做的就是未雨绸缪，帮助这个“孩子”更好地成长。AI伦理的制定任重而道远，为了让技术更好地服务于人类，AI伦理的研究就不能松懈。将于5月26日在南京举行的2019 GAITC“全球视野下的人工智能伦理论坛”，汇集了来自中、美、法、日、荷等国的一线AI专家、领军企业高管和相关监管机构官员，将围绕AI伦理的三大主题及社会责任问题，展开广泛、激烈的观点交锋和观众互动。

图丨来自网络

5月25日主论坛