这一堂AI大课，让70万人耳目一新 | 附沈向洋讲座回放

2020 年 3 月 7 日 学术头条

3 月 5 日上午 9 时许，接过邱勇校长跨越太平洋的双聘教授聘书之后，沈向洋教授在位于美国西雅图的 GIX 大楼发表了题为"Engineering Responsible AI"的报告。

该报告是清华大学“春风讲堂”系列讲座的第四讲，由清华大学全球创新学院院长史元春教授在清华大学工字厅主持。

如何设计和构建负责任的 AI？

沈向洋在报告中称，近年来人工智能领域取得的进步已经超出了此前的预期。但是，许多人工智能领域的从业人员还没有充分考虑其可能产生的社会影响。如今企业界、学术界和政府需要立即采取行动来应对相关的社会挑战。AI 的发展需要遵循公平、可靠和安全、隐私和保障、包容、透明、责任这六个重要原则。

撬动 AI 的黑箱

沈向洋称，目前的AI算法是在黑箱中进行的：我们知道其计算结果是否准确，却不知道决定是怎么做出来的。为了将这种不可知性的风险降到最低，我们要尽可能探究机器做出决策的原因是什么。

他举例说：当机器识别狼和哈士奇时，有一张图被误判了。人工智能并非像人一样通过外形来辨别的两种动物的，而是通过图片中是否有雪景来判断，如果有雪景就会识别为狼，相反则识别为哈士奇。由此得见，我们需要可解释的AI，避免让这种“哈士奇识别器根本认不出哈士奇”的情况，在重要的应用领域出现。

消除 AI 的偏见

沈向洋还提到了人工智能领域存在的偏差和偏见问题。在自然语言处理的“单词嵌入”领域里就存在这样的偏差。机器在根据梅琳达·盖茨的LinkedIn信息推测其职业时，得到了“教师”的判断，但只要将人称代词从“她”换成“他”，梅琳达的的职业就会变为“律师”。这种偏差的原因是由语言习惯中的性别偏见造成的。

他最后总结道：“我们是第一代和 AI 共存的人类，而且别无选择。我们需要决定怎么构建、使用AI。而我们能接受一个 AI 做决定、且使我们人类无法理解的世界吗？”

沈向洋清晰幽默的表达和深刻的思考赢得了听众的阵阵掌声。报告结束后，沈向洋还回答了学生的提问。

听完这次报告，学生们纷纷表示自己在沈教授的启发下第一次认真思考了AI在越来越多的社会活动中所担任的不同角色，也第一次从社会责任的角度看待AI的作用，他们在这堂课上受益匪浅。

GIX学生的反馈

GIX2019 级学生张佳莉：沈教授讲课很是轻快有趣，例子的选取与呈现方式都引人入胜且简单易懂…我觉得AI最有趣的地方在于，当分析其决策过程与处理结果的时候，我们所训练的模型真的很像一个学习资源与处理资源受限的小孩，我们所需要做的包括不断地给予他更充分的样本量或者改善其计算决策条件，调整模型结构等等。很高兴沈教授来到清华，来到GIX为我们带来了这么一节生动有趣的课程，“懂语言者的天下”，确实，语言是我们探索世界的基础。

GIX2019级学生庄煜洲：非常有幸能够现场参与沈向洋教授的讲座。说实话，一开始我是从来没有思考过所谓AI的责任的。在我所做的AI应用中，我往往把算法的精度和速度放在首位，把AI仅仅当成一个达到目的的工具。沈教授通过几个具体的例子，展现了在图像识别、文本分类这种基本的AI任务背后令人震惊的偏差，让我深深体会到了AI可解释性的重要性。这种偏差不仅体现在模型精度，也体现在社会观念，这种偏差真实影响到所有用AI做决策的人，所以，我们能接受一个我们无法理解的AI做决定的世界吗？沈教授的演讲最让我印象深刻的一点就是，他既能够站在全局的视角上讨论AI的责任和可解释性，又能够深入技术细节分析一个个具体案例，使我同时感受到了科技领袖的远见担当和大学教授的研究热情。

GIX2019级学生倪实：人工智能是计算机科学里面的重要领域，涉及方方面面。它改变的不单是计算机单一领域，而是融合以及推动整个世界的变化。但我们对于人工智能的理解还是非常的浅薄，正如沈向洋教授说的那样“人们借助AI来进行决策，但是人们可能并不知道其背后的原理。为此，我们更加需要了解人工智能背后的原理，方法以及决策条件。全球创新学院提供了一个务实的方案，结合硬件，直面生活中的挑战，用设计的思路优化计算机程序设计方案，更好的为人提供更好的决策。正如沈向洋教授最后所说：“Deep Understanding not Deep Learning”，我们要做的就是更精准的理解人的需求，创新地解决问题。

沈教授的这次报告，也是清华GIX科研选题课程的一场特邀报告，史元春教授指出，科研选题要考虑选题的科学性、先进性，以及社会责任，本身就是对学生科研创新价值塑造的关键点。沈教授的报告为一段时间来AI热中注入强大的“负责任AI”的理念和实践参考，为正在选题准备中的学生上了深刻一课。