人脸识别技术的转折点

2019 年 5 月 31 日 AI前线

作者 | Lily Hay Newman

译者 | 阿拉丁

编辑 | Vincent

AI 前线导读：近年来，与人脸识别技术相关的警告变得越来越紧迫。研究表明，人脸识别系统仍然会产生相对较高的误报率，而且始终带有种族和性别偏见。然而，这项技术在美国的泛滥却没有得到遏制，继续在各级政府的执法机构、私营企业和学校中蔓延开来。

更多优质内容请关注微信公众号“AI 前线”（ID：ai-front）

近年来，与人脸识别技术相关的警告变得越来越紧迫。研究表明，人脸识别系统仍然会产生相对较高的误报率，而且始终带有种族和性别偏见。然而，这项技术在美国的泛滥却没有得到遏制，继续在各级政府的执法机构、私营企业和学校中蔓延开来。在美国众议院监督与改革委员会举行的一次听证会上，对人脸识别技术的监管不力引起了两个政党的注意。

俄亥俄州共和党众议员 Jim Jordan 惊讶地表示：“美国有 5000 万部摄像机用于监控，这违反了第一修正案、第四修正案和正当程序的自由。这些错误对非裔美国人的影响太大了。并没有民选的官员允许各州或联邦政府、联邦调查局使用这种手段，所以应该推出一些限制措施。在我看来，是时候做出一些限制了”。

听证会专家小组由各种各样的法律学者、隐私倡导者、算法偏见研究人员和职业执法人员组成，他们在很大程度上支持这一说法。他们直接呼吁暂停政府使用面部识别系统，直到国会能够通过立法手段充分限制和规范这项技术，并建立透明度标准。但在一年前，这样激进的建议在国会可能显得荒谬可笑。不过，旧金山已经通过了一项使用人脸识别的禁令，马萨诸塞州萨默维尔和加利福尼亚州奥克兰等城市似乎也准备效仿。

哥伦比亚特区大学 David Clarke 法律学院教授 Andrew Ferguson 说：“第四修正案并不会把我们从人脸识别带来的隐私威胁中拯救出来，只有立法才能帮助我们应对这些技术的威胁。立法必须考虑到这些监视系统的作用范围、规模和复杂性会不断扩大，以确保可以保护隐私”。

最近的一系列事件表明，这项技术已经被广泛采用，如果不加以监督和提高系统和系统使用者的透明度，这个问题将会变得多么严重。例如，乔治敦大学法律研究人员上周发布的一份报告显示，芝加哥和底特律都购买了实时面部识别监控系统——尽管他们都表示没有在使用这些平台。乔治敦大学的另一份报告提供了纽约警察局滥用和操纵面部识别技术的证据。报告称，警官们将素描图像或者将他们认为跟嫌疑犯长得相像的人（例如 Woody Harrelson）的照片输入到面部识别系统，并试图从这些不相干的图像中识别出目标人脸。

另外，今年 4 月份，一个面部识别系统错误地将布朗大学的学生 Amara Majeed 列为斯里兰卡复活节教堂爆炸案的嫌疑人。周三，《科罗拉多斯普林斯独立报》报道称，在 2012 年 2 月至 2013 年 9 月期间，科罗拉多大学科罗拉多斯普林斯分校的研究人员在未经学生和其他路人同意的情况下为他们的一个面部识别训练数据库拍摄照片，该数据库是政府资助的一个项目的一部分。同样，美国全国广播公司在 5 月初报道称，该照片数据库和分享应用程序曾在未经用户主动同意的情况下悄悄使用数百万用户的照片训练面部识别系统。

“一直以来，我们和该领域的其他一些人一直预测会出现错误的识别和滥用。我们预测将会出现国家层面的监控，而不仅仅是在法医鉴定方面。所有这些都将成为现实。任何说这项技术还处在起步阶段的人都没有做足功课”。

在周三的众议院听证会上，目击者同样强调，面部识别技术不仅是一个静态的数据库，它越来越多地被用于实时、非特定的网络——也就是所谓的“脸部监控”。目击者表示，鉴于面部识别的一些主要缺点（尤其是在准确识别有色人种、女性和性别方面），目前执法部门不应该使用这项技术。麻省理工学院研究员、算法正义联盟（Algorithmic Justice League）创始人 Joy Buolamwini 表示，她将用于训练大多数面部识别系统的数据集称为“pale male”数据集，因为所使用的大部分照片都是白人男性。

Buolamwini 在周三的时候告诉监督与改革委员会：“就在本周，一名男子起诉了 Uber，原因是他的司机账户因面部识别失败而被停用。布鲁克林的租户针对安装不必要的人脸识别系统这一举措发起了抗议。新的研究表明，用于医疗保健方面的面部分析技术也存在偏见，而且面部识别技术正在走向校园。我们的脸很可能是隐私的最后一道防线”。

周三，来自不同政治派别的代表表示，该委员会准备制定两党立法，对执法机构和其他美国实体使用面部识别技术加以监督。但多年来，在联邦一级取得的实质性成果寥寥无几，在私有领域的宣传也面临着重大障碍。例如，周三，亚马逊股东否决了两项与限制使用该公司面部识别软件进行隐私和民权保障措施研究的建议。

尽管如此，随着面部识别技术的普及，隐私倡导者将 2019 年视为一个潜在的转折点。

来自耶鲁大学法学院信息社会项目的律师 Tiffany Li 表示：“我认为，阻止人脸识别技术的扩散已经太晚了，政府和企业每天都在以新的方式使用它。我们希望能达到一个临界点，开始认真解决这些问题，也许最好的时机就是现在”。

英文原文：

https://www.wired.com/story/facial-recognition-regulation/