我所曾毅研究员在金砖国家信息与通信技术合作工作组会议上就人工智能伦理发言

2021 年 10 月 25 日 中国科学院自动化研究所

CASIA

解锁更多智能之美

导读｜10月21日，金砖国家信息与通信技术合作工作组第7次会议成功召开。人工智能伦理的国际共识与国际合作是本次会议的主要议题之一。受工信部国际合作司邀请，中国科学院自动化研究所曾毅研究员作为人工智能伦理领域专家中方代表出席会议并进行了题为“负责任的人工智能：可持续发展与治理的深度协同”的在线主题发言。以下是曾毅研究员发言的主要内容概要：

全球人工智能发展在近年提出了不同的愿景，例如日本和其他一些国家秉承以人类为中心的人工智能愿景，加拿大秉承对人友善的人工智能，欧盟的可信人工智能愿景等。中国结合全球人工智能发展的理念和经验，提出了通过深度协同人工智能的可持续发展与治理，实现负责任的人工智能。这些不同的愿景共同形成了全球人工智能发展的蓝图。

当我们将来自全世界的不同人工智能伦理与治理原则提案进行综合分析后，不难发现他们都围绕一些共同的议题展开讨论，例如以人为本、公平、隐私、安全、问责、合作、共享、可持续发展，也有少数提案会明确提到长远人工智能这个议题。这些提案从来就不会形成竞争关系，而是针对同一个议题提出不同的理解视角，彼此互补，相互支撑。政府的提案站在全社会角度考虑相对完善，而来自企业的提案大多数会选择性的重点论述。

中国在2019年6月通过国家新一代人工智能治理委员会发布了《新一代人工智能治理原则——发展负责任的人工智能》，形成了发展新一代人工智能的国家治理愿景。我们特别强调“为促进新一代人工智能健康发展，更好协调发展与治理的关系，确保人工智能安全可靠可控，推动经济、社会及生态可持续发展，共建人类命运共同体”为新一代人工智能治理的总体愿景。在具体的治理原则中，引领性的原则首先是颇具中国特色的“和谐友好”，致力于增进人类共同福祉为目标，促进人与人之间的和谐、促进人机和谐，服务人类文明进步。我们的治理原则包含了绝大多数的国际共识，例如尊重隐私、安全可控、共担责任、敏捷治理。同时特别倡导开放协作和包容共享。2021年9月，我们在此基础上发布了《新一代人工智能伦理规范》，核心思想是将伦理与治理贯穿人工智能的整个生命周期。并针对管理、研发、部署、使用环节和涉及到的相关方分别提出细化要求。

人工智能治理从来不会阻碍人工智能的发展，而是促进其健康发展，规范其野蛮生长。因此发展与治理之间既不存在谁优先的问题，也不存在竞争关系，发展与治理的关系是深度协同，从而实现对人类和生态有益的可持续的人工智能。

我想我不得不带来一个不太好的消息，在计算机科学与人工智能领域的文献中，初步的研究使我们发现仅有0.1%的研究直接贡献于可持续发展目标的实现。我们还观察到在这些可持续发展的主题上，只有教育和医疗两个领域有相当数量的人工智能研究者参与，而其他领域关注的人很少，这是一个非常糟糕的现状。在这样的现状下，全世界必须携手团结起来，通过人工智能赋能可持续发展目标每一个目标的实现。

我想如果在这里仅有时间谈一个具体例子的话，我希望讲讲教室里的表情识别。将人工智能应用于教育领域并不意味着真正贡献于可持续发展，因为类似教室中的表情识别这类应用不仅仅是侵犯学生的隐私和能动性，它给下一代和社会带来的长期负面影响不可估量。这样的应用在中国、美国、欧洲都曾出现，而我们本应从对方的经验中汲取教训，实际上却让类似的问题在不同的国家陆续上演。但是这是否意味着在校园中不能应用人工智能技术呢？很显然不是这样的。如果能够利用监控技术在保护学生隐私的大前提下用于防范校园霸凌，则是一个更好的设计和应用场景。需要将隐私保护与保护下一代身心健康的动机经过深思熟虑进行精心的设计，这才是真正可持续的人工智能。

现在一些研究机构和人工智能企业都在伦理洗白的边缘。一方面成立了伦理研究机构大谈伦理，另外一方面在具体的产品研发和服务中却屡屡触犯伦理红线。这在全球已经是一个普遍现象，伦理团队与产品团队甚至发生冲突，无法真正影响人工智能的研发、部署与使用。伦理绝不能演变成维护机构和企业形象的工具，这是全世界共同的挑战。

问题的症结正在于人工智能伦理与治理与产品和服务严重脱钩。这也是为什么我们在《新一代人工智能伦理规范》中特别强调并将着重实践人工智能伦理贯穿于人工智能产品与服务的整个生命周期，深度嵌入管理、研发、部署、使用等环节，成为其必要的组成。人工智能创新和研发机构应当与多学科交叉的学术界、用户、媒体、政府保持紧密良好的沟通关系，通过多利益相关方的协同自治实现自适应主动治理。多方协作、多方共治不仅应当在金砖国家间积极探索，更应当在全球范围内展开，互通互鉴，共互安全、共享成果。只有这样才能真正实现负责任的、可信的人工智能。

欢迎后台留言、推荐您感兴趣的话题、内容或资讯！

如需转载或投稿，请后台私信。