预见未来 | AI予力造福人类

2018 年 12 月 26 日 微软研究院AI头条

编者按：自1998年成立以来，微软亚洲研究院一直致力于推动计算机科学领域的前沿技术发展。在建院20周年之际，我们特别邀请微软亚洲研究院不同领域的专家共同撰写“预见未来”系列文章，以各自领域的前瞻视角，从机器学习、计算机视觉、系统架构、图形学、自然语言处理等多个方向出发，试图描绘一幅未来科技蓝图。

我们享受着人工智能为生活带来的积极改变，但同时对它的质疑也从未停止。人工智能带来的贫富不均、人身安全、社会秩序、信息垄断等问题，都不禁让我们重新思考，人工智能究竟应该做些什么？我们应该如何应对AI带来的挑战？

2013年，来自北京联合大学特殊教育学院的丹丹受邀前往美国参加微软大会。在两万多名参会者面前，自幼听障的丹丹用中国标准手语表达：“说话是我从小的梦想，谢谢科技让我梦想成真。”她的手语通过Kinect采集，由计算机识别，被实时翻译成英文。当这句话显示在大屏幕上，许多微软同事当场感动落泪。这是一个名为Kinect for Sign Language Translation的项目，由中科院计算机所陈熙霖教授、北京联合大学李晗静教授、微软亚洲研究院周明博士和童欣博士合作完成，丹丹和她的同学们协助研究人员建立了手语资料库。

无独有偶，当微软亚洲研究院在2015年的ImageNet比赛中让计算机的视觉能力超越人类之后，一位7岁时失明的微软工程师基于计算机视觉算法设计了一款眼镜，当他想要看到某个事物时，他就轻轻滑动镜腿拍照，计算机会帮助他分析这张照片。这个名为Seeing AI的项目还提供了一个手机APP，能帮助视障者阅读文字与文件，识别物体、人与货币。

这两个项目的关键词是“人工智能”。

如今，人工智能正在改变我们的生活，更在变革或颠覆着各行各业。人工智能在创造机遇的同时，也给人类世界带来了诸多挑战。

未来的人工智能时代会是何种样貌？我们应当以怎样的姿态迎接这个科技时代？预见未来的最佳方式是参与创造未来，而参与创造的前提是对人工智能有全面而清晰的认知。在这里，我们不仅想讨论人工智能可以做什么，也想把更多眼光落在人工智能应该做什么，尝试去探索人工智能造福人类的最佳路径。

当我们谈AI时，
会怎么谈它带来的挑战？

我们感恩人工智能技术为人类生活带来改变的同时，质疑的声音也从未停歇过。事实上，质疑声总与技术的变革同行。纵然计算机专业的同仁们一起开会时，常常在讨论人工智能的好处，我们仍无法对社会舆论中的担忧声音充耳不闻。人工智能为人类社会带来了哪些挑战？我们将其总结为以下三个方面。

挑战一：机器或取代人类，造成失业与贫富不均。2017年麦肯锡有一项研究分析了美国820份工作的工作内容，发现其中49%的内容可以被今天的科学技术取代。许多其他研究也有类似的结论。当然，这些工作被取代仍需时日，科技发展亦可能创造出新的工作机会。无论如何，未来职场发生巨变似乎已成必然。

人工智能的确会取代一些工作，但这一定是一件糟糕的事吗？并不尽然。事实上，人工智能取代的大概是多数人不太愿意做的“简单或重复的劳动”，人们也继而有更多时间去做自己喜欢的事情。这即是所谓“水涨船高”：当人工智能发展到一定程度，人们会转而去做更有价值的事情。但有两个情况需要额外考虑：第一，水涨得太快，很多人会被瞬间取代；第二，水涨得太高，即人工智能先进到某种程度的时候，聪明才智在水准之下的人无法对社会做出贡献，就会面临失业。

在上一个时代，我们追溯富人更富、穷人更穷的原因，是因为资本的回报率高于劳动力的回报率，手中握有资本的人往往比纯劳力更容易赚钱。而在这个时代，拥有数据和技术的人又比拥有资本的人能量更大。人工智能时代因而带来了新的隐忧：当数据和技术被少数人掌握，尤其他们又同时掌握了资本的时候，其能量将难以估量。与此同时，当人工智能应用逐渐普及，机器的制造和生产技术不断成熟，机器替代人工的成本也随之降低，失业和贫富不均的问题将会更为突出。

挑战二：人工智能威胁人类自身安全与社会秩序。霍金（Stephen Hawking）曾多次告诫人类应警惕人工智能，他担忧人工智能比人类更为聪明的未来。埃隆·马斯克（Elon Musk）也曾说人类需要非常谨慎地对待人工智能，它有可能比核弹更危险。这代表了一些科技界人士的态度，他们担心如果人工智能足够强大又不受控，结果将是毁灭性的。

那么，人工智能是否足够安全可靠？一种情况是，如果AI程序出现错误，我们很难像电脑死机、关机、重启那样简单地重启人工智能。我们相信在编写程序过程中，程序员必定慎之又慎，但我们并不能保证程序永远不出错。如果错误发生，我们该如何应对？谁来负责？另一种情况是，人工智能在未来必将参与到更多事务之中，很多可能事关安全，如果我们无法完全控制它，如果这项技术被心怀不轨的人利用，该怎么办？

这些问题不仅涉及技术，更关乎政策法律和伦理道德。人工智能的运用范围越广、执行能力越强，这项科技所肩负的责任就越重，这是人工智能在未来必须面对的考验。另外，我们亦担心在人工智能时代，人类将如何自处。

挑战三：人工智能或促成信息垄断或意见两极。我们已经习惯了打开搜索引擎寻找想要的信息，阅读客户端精心挑选的推送。互联网缩减了沟通的距离和成本，大数据和人工智能让信息传播更为精准，但也增加了信息被垄断和控制的风险。在人工智能时代，数据和信息可能为少数巨头所掌握，他们把控着信息的入口和出口，进而构建信息壁垒。

与此同时，人工智能技术下的推荐算法可能导致偏见的产生。例如我们经常阅读某类新闻，系统就会持续推荐同类新闻。当大量的搜索引擎和互联网产品开始使用推荐算法，我们也相应地丢失了接触更多信息的可能。当异见的出现频率降低，已有观点通过推荐内容被反复加强，拥有相似立场的人通过算法逐渐聚集，进而导致社会上的意见更加两极化。

我们认可数据的重要性，这是大数据时代竞争力的关键，因而以数据的收集与选择作为设计人工智能的初始环节。但是，信息垄断并非我们想见的结果，选择具有代表性的数据也并不足够公平。如何获得数据却不为少数人垄断，如何利用数据却不只强化共性，这是又一个挑战。

当我们见诸人工智能带来的挑战，问题已从最初的“它可以做什么”变为了“它应该做什么”。人工智能创造了许多契机，也带来了不确定性。我们应保持开放的态度，也保留质疑的精神，从容地面对这些挑战并抓住其中的机遇。

通向AI幸福的未来路径

怎样培育年轻一代，才能让他们不在人工智能时代被淘汰？如何分配财富，才能让弱势群体得到基本保障？今天我们谈及的自动驾驶车真正上路后，应如何设置交通规则？计算机科学应朝着什么方向发展，才能将人工智能程序中的错误尽可能减少乃至完全消除？应对AI挑战，我们可以考虑以下路径。

路径一：推广计算思维普及教育，让每一个人成为AI的理解者与受益者。在对计算机智力超越人类智力的担忧背后，呈现出基础教育中计算思维培养的缺失。让新一代受教育者学会运用计算机科学的基本概念来解决问题、设计系统和理解人类行为，正成为建立其未来竞争力的关键。

计算思维，就如同语言和数学，并不是只有计算机领域的专业人才需要具有的能力。很多人将语言和数学工具化，认为学习它们的意义在于“日后有用”，这其实是弱化了它们的价值。语言是一种思考方式，没有语言，人无法思考，至少无法如此精密而有逻辑地去思考，因而沟通不是学习语言的唯一目的。数学也是如此，当我们看到毫无章法的一堆杂物，会去数数、去归类，这些想法和动作已经成为了我们思维的一部分。

计算思维亦然。何为编程？编程是一种描述，人告诉机器怎么做，而后机器去执行并产出结果。让机器“听话”需要逻辑性，需要大局观，需要将问题分解，需要注重细节，这些能力都可应用到现实问题的解决。我们应该让更多人拥有理解人工智能的能力，就像每个人从小学习的语言和数学一样，计算思维也需要普及。

微软的目标是使人工智能全民化。自2014年起，微软亚洲研究院积极与教育部和大中小学合作，以计算思维为切入点，通过产学合作协同育人项目，改革计算机基础教育模式。五年来，已有近140门相关课程在全国29省市的110余所高校中开设，由东部发达地区的重点高校带动西部教学资源稀缺的地方高校，惠及数百万师生。同时，通过“创新杯”、“编程之美”、“编程一小时”等系列竞赛活动，让“计算思维”的概念为高等教育、基础教育界所重视，为其推广做出了贡献。信息化和智能化的时代背景对人才提出了新的要求，计算机基础教育和计算思维普及的重要性也与日俱增，微软正在与国内外计算机领域学者一起，为这个崭新的时代创造更多可能。

路径二：推动各行业数字化转型，让每家公司成为AI的使用者与创造者。技术变革将行业发展裹挟其中，我们看到人工智能在教育、医疗、养老、环境保护、城市运行、司法服务等领域的广泛应用。人工智能发展的核心是数据，而各行业都储备着大量数据，若以人工智能技术有效利用这些数据，行业革新将不只是愿景。

数字化转型的内涵远不止于将传统业务数字化，这只是漫漫征途的第一步，智能化是我们希望到达的“远方”。人工智能技术应深入到各行各业，与具体的应用场景结合，从而彻底变革传统的行业工作模式与产品形态。例如微软亚洲研究院与华夏基金就人工智能在金服领域的应用开展战略合作研究，与培生教育共同开发了英语学习应用「朗文小英」，并与东方海外航运 (OOCL) 展开合作计划，通过应用人工智能研究，改善航运网络营运以提升效率。在医疗领域，微软亚洲研究院与辉瑞公司合作构建了冠心病、脑卒中、高血压、高血脂等常见慢性病的知识图谱及智能问答系统，以帮助患者与医生进行更有效地沟通。

如果说互联网的出现是上世纪的一大机遇，数字化转型则是本世纪的机遇。伴随着云计算、大数据、物联网、人工智能、混合现实等新兴技术的发展与突破，第四次工业革命已在悄然发生。数字化转型将使企业具备更高的生产力和竞争力，降低在人工智能时代被颠覆的机率。

路径三：加强国家和政府引导，让AI在政策、法律和规范的指导下更具效能。在人工智能面对的诸多挑战中，技术不是最终难题，人在其中的能动性更值得关注。经过几代人、无数杰出的科学家研发而成的人工智能，必须得到更好的管理与规范，才能真正地造福人类。我们亦需要一股力量来缓解科技对人类社会造成的冲击，政策和法律正是重要的规范与疏导力量。

前文提到的三大挑战中，很多问题能够也需要通过国家帮助解决，譬如失业、贫富不均、安全保障、垄断和偏见、教育等问题都需要政府的力量。就失业问题而言，根据前几次工业革命的经验，工业革命后人的智力、人对新事物的接受度也会随之提升。但不幸的是，人的进步与科技进步并非同步的，这中间有一个时间差。如何让这段时间平滑过渡，让受到科技冲击的人能够有其他选择，这就需要国家和政府的关注与帮助。同时，如何有效消除数据壁垒、提升用户体验，这也需要政府的努力。

人工智能引发了因人、技术和社会这三方互动而生的新问题，但目前大部分行业标准和法规都不是专门为人工智能编写的，制定能够牵制非良性互动的法律法规是重中之重。事实上，国家和政府在人工智能时代究竟应当扮演怎样的角色，这更需要我们长久地思考与探索。

路径四：敦促科技公司自律，让AI更加安全可靠，更透明，更可解释。科技公司是人工智能技术的受益者，也应当肩负起技术应用的社会责任，让人工智能变得更加可靠。微软自开启人工智能领域研究以来，始终关注人工智能开发与应用的道德伦理问题。作为联合创办人创立了人工智能合作组织（PAI），致力于推进相关问题的讨论。在2018年发布的新书《计算未来：人工智能及其社会角色》中，微软公司总裁施博德（Brad Smith）先生与全球执行副总裁沈向洋博士从微软的价值观出发，提出了“人工智能开发应用六原则”，它们分别是：公平、可靠与安全、隐私与保障、包容、透明和负责。

公平意味着人工智能系统应当公平公正地对待所有人，为此开发人员必须了解各种偏见可能存在并被引入系统的方式。可靠度决定着人工智能究竟能够走多远，必须将不可预见性纳入设计原则，确保人工智能的安全运行。隐私与保障是数据与云计算服务取得信任的关键，这要求人工智能系统有对客户信息的保障措施，以及预防侵犯隐私的风险体系。包容需要人工智能理解使用者的情境和需求，以及他们的意图和期望。透明和负责是所有原则的基础，人们有权了解人工智能如何运作、如何帮助他们决策，系统开发者应当参与到规范和指导之中，对其运行提供监督并建立问责标准。

2018年7月9日，由中国发展研究基金会主导，微软公司协助的报告《未来基石——人工智能的社会角色与伦理》在北京正式发布。微软作为合作方，与中国发展研究基金会共同分享了过去数十年的管理与科研经验。微软也将继续思考人工智能在人类社会中的角色定位，担当起企业社会责任，与各国政府及科研机构一同努力，让人工智能得到更好的规范与管理，让科技力量福惠全球。

面对人工智能所带来的挑战，我们应致力于帮助每个人做好应对的准备，包括帮助学生应对未来的职业挑战，帮助劳动者应对不断变化的行业形势，以及建立相关制度以帮助劳动者和就业机会进行匹配等。微软期待与各个领域的从业者同心合作，开发和分享最佳的实践范式，通过普及计算思维教育、推动数字化转型、加强政府参与以及科技公司自律，让AI for Good可以实现。人工智能造福人类绝不只是愿景，而是我们正在走向的未来。

本文作者：潘天佑、崔颖文

你也许还想看：

● 预见未来 | 计算机图形学：虚拟和现实世界的融合

● 预见未来丨机器学习：未来十年研究热点

● 预见未来 | NLP将迎来黄金十年