人工智能时代的隐忧：“舒服至死”- 专知

人工智能时代的隐忧：“舒服至死”

今年2月，《纽约时报》英文网站发表了一篇文章，指出如今非常热门的人工智能（AI）应用人脸识别，针对不同种族的准确率差异巨大。其中，针对黑人女性的错误率高达21%~35%，而针对白人男性的错误率则低于1%。

文章引用了麻省理工学院媒体实验室研究员Joy Buolamwini与来自微软的科学家Timnit Gebru合作的一篇研究论文《性别图谱：商用性别分类技术中的种族准确率差异》中的数据，而其来源是微软、IBM和旷视三家公司的人脸识别API（应用程序编程接口）。

“人工智能系统确实可能存在偏见。”5月21日，在由北京大学法学院和北京大学出版社共同举行的“人工智能及社会角色”主题论坛上，微软全球执行副总裁、微软人工智能及微软研究事业部负责人、美国工程院院士沈向洋对此回应道。他表示，导致偏见的原因是系统使用的训练数据集主要源自白人，而黑人很少。

实际上，论坛当天的主题“人工智能及社会角色”是沈向洋与微软总裁及首席法务官施博德共同主持撰写、已在美国出版的《未来计算：人工智能及社会角色》一书的副标题。虽然人工智能已经成为微软目前发力的主要方向之一，但沈向洋坦言，AI近年来的迅猛发展，确实带来了一些困惑，例如偏见、透明和责任等等，我们需要对它所带来的正面和负面影响作深入的思考，并及时作好应对的准备。

而在《未来计算》这本即将由北京大学出版社正式出版发行的书中，沈向洋和他的同事分别从人工智能的未来，负责任地使用人工智能的原则、政策和法律，以及人工智能与职业和工作的未来等三个方面进行了深入剖析，并分享了微软对于人工智能技术发展，以及如何让人工智能等科学技术为社会创造更多福祉等问题的思考。

总结公众目前对人工智能兴起的态度，北京大学法学院副教授、北京大学法律人工智能实验室/研究中心副主任江溯将之归纳为两种观点，一种是“热情拥抱论”，另一种是“AI威胁论”。对此，北京大学哲学系教授何怀宏认为，如今人类把体力和智能都已经外包了，还仅剩下智慧。如果把智慧也外包出去，那么未来人类就很容易受摆布，因此应当保留独特性。特别是一旦可以媲美，甚至超越人类智慧的强人工智能出现的话，如果人类没有保留自身的独特性，就很容易滑入深渊，“舒服至死”。

谈及AI发展可能会对当下社会带来怎样严重的现实问题，北京大学计算机系主任黄铁军表示，“对此并不担心”。他认为，AI是人类与未来对接的唯一手段。其脱胎于人类，与人类存在连续性，“如果人类要向前演化，人工智能的出现将是‘早晚的事’”。

作者：计红梅来源：中国科学报

本文转载自科学网

http://news.sciencenet.cn/htmlnews/2018/5/413143.shtm

-END-

专 · 知

人工智能领域主题知识资料查看与加入专知人工智能服务群：

【专知AI服务计划】专知AI知识技术服务会员群加入与人工智能领域26个主题知识资料全集获取。欢迎微信扫一扫加入专知人工智能知识星球群，获取专业知识教程视频资料和与专家交流咨询！