《 AI Now Report 2018 》：避免 AI 沦为恶魔，问责制度迫在眉睫

2018 年 12 月 13 日 AI科技评论

AI 科技评论按：2018 年围绕着人工智能的一连串技术丑闻的核心只有一个：问责制。当 AI 系统对我们的身体造成伤害时，谁应该为此负起责任？我们应该如何定义这些危害，一旦伤害造成后又该如何进行补救？假设想对此进行干预，干预的重点应该是什么？我们还需要哪些额外的研究和监管活动来保证干预效果？目前看来，这些问题都没有完善的答案，当下存在的人工智能管理框架也不足以支撑问责制的执行。然而随着系统的普遍性、复杂性和规模的逐渐增长，缺乏有意义的问责和监督机制（包括责任、担当和正当程序的基本保障）已经成为一项日益紧迫的问题。

在 2016 年和 2017 年的报告基础上，AI Now 研究所试图通过《AI Now 2018》来回应这一核心问题，并据此提出几个解决问题的提议。（完整版文件可通过 https://ai.yanxishe.com/page/resourceDetail/660 下载）对于每个提议他们都会总结出最新的挑战与研究，并就 AI 技术的开发、部署与监管情况提供改进建议。他们的建议基于严谨的学术研究、可操作性较强，能够帮助政策决策者、群众以及技术人员更好地理解并减轻可能出现的风险。由于 AI Now 研究所身处美国，过去专注的研究区域也是美国，再加上世界最大的几家人工智能公司都位于美国，因此报告会优先关注美国本土的情况。

人工智能领域现有的问题

人工智能领域的问责缺位问题日益突出

2018 年发生的几条技术丑闻表明，那些从人工智能发展中受益的人，与那些最有可能承受人工智能发展恶果的人，两者之间的隔阂正在进一步扩大。造成这种结果的原因很多，其中包括政府监管不到位、社会对人工智能的莫名狂热、公司的治理制度存在缺陷、企业与用户之间的权力不对称、负责技术研究的工程小组与负责 AI 系统部署的群体存在文化差异。这些分歧迫使人们更加重视偏见、歧视、正当程序、责任以及伤害问责制的建设。报告想强调，社会如今迫切需要针对不同行业强而有力的研究与监管。

人工智能被最大限度地用于监视活动

人工智能在美国、中国和许多国家被广泛用于监视活动，这点从传感器网络、社交媒体跟踪、面部识别和情感识别等技术的使用和普及程度上可以看出。这点变化不仅威胁个人隐私，同时加速了监控自动化的进程，进而导致人们被监控范围和频次的扩大。这带来了新的危险，并放大了许多长期存在的担忧。揭露欺瞒行为的情感识别技术被频繁使用，通过对人们脸部的近距离观察，情感识别技术能够解读人们的内心情感，无论是情绪、心理健康水平、参与程度或有无罪都将一览无遗。需要警惕的是，这种技术在人们不知情的情况下已经被用来进行一些具有歧视性和不道德的活动。面部识别技术同样不让人省心，它强化了从刑事司法到教育再到就业等领域各种扭曲和隐性的歧视性做法，并对多个国家的人权与公民自由形成了威胁。

在未保障公民权利的情况下，政府频繁使用那些会对个人和社区造成影响的自动化决策系统

许多国家的政府机构基于提升效率和节省成本的目的，对自动决策系统 (ADS) 进行采购和部署。问题是这些决策系统好多都未经过严格检验，功能设计上也不一定完美匹配目标任务，由此导致了对个人权利的非法侵犯。更糟糕的是，当他们做出错误和不好的决定时，我们想质疑、争辩、纠正这些错误往往会面临困难。据了解，一些机构正试图提供更加符合透明、正当程序和保障基本权利的系统，可类似贸易保密这样的法律又会对系统的审查与测试形成阻碍。无论是机构的积极努力还是近期可见的一些战略诉讼，报告提炼并概述了可以形成系统问责制的有效途径。

各种缺乏管制和监控、基于人口的人工智能实验

硅谷以其「快速行动，打破现状」的理念闻名世界，在这种理念的影响下，许多当地企业被迫快速试验新技术，而不怎么重视类似谁承担风险这种实验失败后的问责制度的建设。过去一年里，AI Now 研究所见到越来越多在公共场所部署的人工智能实验，却未曾见实验方提供任何的通知、同意或问责协议。由于这些实验尚未大范围出现问题，AI Now 研究所发现好大一部分实验还在继续进行。可一旦事故发生时，我们往往不清楚责任该由哪个单位/个人承担。因此，主体责任的界定、事故发生时如何追责仍然是一项优先级较高的任务。

技术解决公平、偏见与歧视问题时局限性

为避免机器做出具有歧视性的决定，人们做了许多工作，其中包括为机器设计「公平」的数学算法模型。如果模型缺乏充分考虑社会、政治与历史背景因素的算法框架，这些「公平」的数学公式几乎不可避免地要遗漏几项关键因素，导致忽略深层次的问题，最终造成更严重的伤害与更多的不公正。为了确保我们有力解决核心问题——将焦点从平等转移到公正，我们目前迫切要做的是拓宽研究视角，将研究范围扩大至人工智能的公平性与偏见等问题，而不要局限于数学领域。

对伦理原则的遵守与落实

为了回应人们对人工智能社会影响力日益增长的担忧，今年出现了许多创建和部署人工智能技术的伦理原则和指导方针。然而研究表明，如果道德承诺不与责任制度还有工作场合的实践直接产生联系，它们对软件开发领域的影响几乎是微乎其微。此外，这些规范和准则往往很少得到执行、监督或偏差后果的支持。换句话说，只有将伦理准则融入到人工智能的发展过程中，同时得到对公众利益负责的执行机制的支持，才能有助于人工智能问责制度的建设与发展。

报告接下来的内容将详细阐述这些课题，除了反映最新的学术研究成果外，还会介绍 7 项富有建设性的改进策略: