沈向洋：求索不已，为全人类打造负责任的人工智能

沈向洋：求索不已，为全人类打造负责任的人工智能 | 世界人工智能大会

2019 年 9 月 2 日 微软丹棱街5号

丹棱君有话说： 微软亚洲研究院第二十一届“ 二十一世纪的计算”国际学术研讨会隆重举行，世界级人工智能专家和技术领袖围绕“AI for All”的主题，共同探讨了 AI 学术进展与技术突破，以及 AI 发展中的伦理问题和社会责任。微软全球执行副总裁、微软人工智能及微软研究事业部负责人沈向洋分享了在打造负责任的 AI 方面的洞察。在技术创新突破的同时，人们还需思考技术带来的社会影响，未雨绸缪，共同面对潜在挑战。微软率先提出了打造负责任的 AI，始终坚持遵循六项人工智能准则，并成立了 AI 伦理道德委员会等，在不断求索中创造未来，让 AI 真正造福每一个人。

微软全球执行副总裁，微软人工智能及微软研究事业部负责人沈向洋博士

在微软研究院（MSR），我们始终都在努力解决关于未来的问题——我们努力推动计算机科学最高水平的进展；我们将最新的技术快速转化、融入到微软的产品和服务中；我们还在帮助全球各地的客户，孵化颠覆性的技术、开创崭新的业务模式和解决方案。

微软研究院遍布全球各地，在美国的雷德蒙德、纽约、麻省的剑桥，在加拿大蒙特利尔，在英国剑桥，在印度的班加罗尔，以及中国的北京和上海，我们都开设了分院。过去的一年中，全球各地的微软研究院，取得了许多了不起的成就，为微软自身的发展，乃至整个计算机科学领域的进步，做出了重大贡献。例如，我们开发出了第一个能将数据编码存储到 DNA 中的方法，能够将一座仓库那么大的数据中心，压缩到只有几个骰子大小；我们的 Project Natick 项目，在大洋深处的海底，建成了一座数据中心；我们开发了一套能够解释机器学习的开源方案，帮助人们开启人工智能的黑箱；我们还创造了一套叫做 Code Jumper 的工具，利用不同形状的模块，帮助视力障碍的孩子们，学会如何编程。

1991 年，我们创立微软研究院的时候，就立志于放眼未来，求索不已，创造能够影响未来的重大突破。为了实现这一目标，我们制定了从今天到未来，跨越 10 到 20 年的战略路线图：我们为 18 个月内可能上市的产品和服务，做好设计和准备；我们为未来 3 到 5 年的项目，明确方向和要求；最重要的，是我们会对未来 10 到 20 年的技术趋势投入更多的关注。

HoloLens 全息眼镜的发展历程最具代表性：早在 20 多年前，我们已经开始投资于 HoloLens 背后的基础性研究；随着 Kinect 传感器和 KinectFusion 的出现，我们实现了真正的突破，用 3D 传感器完整地重构出了三维结构；然后是 HoloDesk，可以将 3D 模型组装成虚拟的三维环境；过去三四年间，HoloLens 的技术和应用逐渐成熟，真正实现了混合现实技术的重大突破——今天，我们就演示了如何以 HoloLens 配合神经网络文本到语音转换技术，打造出一个会说多国外语的全息替身——简直和科幻电影中的情形一模一样。

未雨绸缪，代表了微软研究院对未来的思考。今天，以人工智能为代表的一系列技术创新，正在让很多不可思议的事情成为现实。但我们不仅要推动技术的进步，更要认真思考可能由此带来的社会影响，以及人类将要共同面对的潜在挑战，未雨绸缪，防患于未然，从头开始打造负责任的人工智能。

微软全球执行副总裁，微软人工智能及微软研究事业部负责人沈向洋博士在“二十一世纪的计算”学术研讨会上发表演讲

在科技行业里，微软率先提出了打造负责任的人工智能的决心。2016 年，微软 CEO 萨提亚·纳德拉发表了一篇关于人工智能共同责任的专栏文章，几个月后，第一次公开提出了微软的人工智能准则：公平、可靠和安全、隐私和保障、包容、透明、责任。

我们出版了《计算未来》一书，对人工智能发展过程中可能引发的道德、法律思考和社会影响，进行了全面详实的探讨。微软成立了 AETHER（“工程与科研中的人工智能道德”的缩写）人工智能伦理道德委员会，这个委员会由微软公司领导、工程师、科研人员、律师等组成，负责对微软内部与人工智能伦理道德相关的事宜，进行探讨和评估。如今，微软在开发和应用人工智能的过程中，始终坚持遵循六项人工智能准则，我们推出的每一个产品，都要经过人工智能道德审查。

通过技术创新消除 AI 偏见，确保人工智能公平、包容的发展，我们在这些方面已经取得了一些进展。例如，我们的研究团队，利用称为“单词嵌入”的自然语言处理工具，解决了文本搜索中的性别偏见的问题。

所谓单词嵌入，是一种用来将单词转换为向量数字的算法，它能够以来自新闻数据或者网页数据的海量文本数据为依据，为每个单词赋予一个对应的向量数字。通过在向量坐标系中，比对常见词汇与“他”、“她”这两个性别代词之间的关联度，研究人员发现了一些明显的特征，例如“sassy（刁蛮）”、“knitting（编织）”这样的词更靠近女性，而“hero（英雄）”、“genius（天才）”更靠近男性。算法之所以会为这些词汇赋予性别特征，原因在于训练算法用的基准数据集——通常是来自新闻和网页的数据——本身，就存在着由语言习惯造成的“性别偏见”，算法也自然“继承”了人类对这些词汇理解的性别差异。

其结果就是，当我们用试验算法，根据梅林达·盖茨的 LinkedIn 信息推测其职业时，得到了“教师”的判断，但只要将人称代词换成“他”，盖茨夫人的职业就会变为“律师”。今天的很多 AI 系统都在使用这样的单词嵌入机制，为了解决由此造成的性别偏见问题，我们提出了一个简单易行的方案：在单词嵌入中，删除区分“他”和“她”的判断维度。关于这个方案的更多细节，我们发表了一篇论文，相关数据也共享在 GitHub上供大家使用。

科学研究只尊重未来，因此，作为科学工作者，我们的使命就是挑战现实、探索新知、创造不同——这也正是微软研究院几十年来取得成功和发展的关键。在微软研究院，我们相信，所谓未来，是由我们在不断求索中创造出来的。我们要做的，就是去引导、去创新、去启迪，通过推动从今天到明天的转变，为全人类创造出更美好的世界。

了解更多：