被指开除高级研究员，谷歌大神Jeff Dean回应：是她说不答应条件就离职

机器之心报道

机器之心编辑部

曾经把图灵奖获得者 Yann LeCun 逼到「永久退出社交网络」的 AI 平权著名研究者 Timnit Gebru 被谷歌解雇了，这次被指作恶的是她的顶头上司，谷歌 AI 总负责人 Jeff Dean，然而事情没有这么简单。

这几天，一位谷歌 AI 研究员的离职纠纷在社交媒体上愈演愈烈。

12 月 3 日，这位研究员在推特上表示：「我因为一封写给谷歌大脑女性成员和盟友的邮件被 Jeff Dean 开除了，公司账号也被停掉了。这件事情发生得非常突然。」

这位研究员名叫 Timnit Gebru，被「开除」之前是谷歌「伦理 AI 团队」的技术联合负责人，致力于 AI 算法偏见、公平性等问题的研究。

她推文中提到的人就是大名鼎鼎的谷歌 AI 负责人，神经网络框架 TensorFlow 的主导设计者之一 Jeff Dean。在人工智能乃至计算机科学领域，他的大名可以说是无人不知。

Timnit Gebru 还表示，直接向她汇报的一位谷歌 AI 员工收到了一封邮件，邮件中说公司接受了她的辞职决定，但她根本就没有递交辞呈。

「起初我只是提了一些简单的要求并表示休假回来再处理这件事。我猜测是她（Gebru 的经理的经理）替我做的决定。」Gebru 在推文中写道。

Gebru 在第一则推文中提到的邮件是怎么回事？

在「开除」事件发生之前，Gebru 一直致力于一项研究工作并希望发表这篇论文，但却被她的上司要求撤回论文。因此，上周，她向谷歌大脑女性成员和盟友们群发了一封邮件来表达自己的沮丧。

Gebru 在邮件中表示：

我们刚刚有一项黑人研究，所有人都表现出了愤怒的情绪，但你知道接下来发生了什么吗？所有人都保持了沉默。

你听说过有人是通过一份给 HR 的特权或机密文件得到论文「反馈」的吗？这听起来像是一个标准的流程吗？或者说这件事只发生在像我这样经常不被当做人来看待的人身上？

在这个会议上，你上司的上司告诉你，「决定已经出来了，」你需要在下周（11 月 27 日）之前撤回这篇论文，而这是所有人几乎都在外出的一个星期。你不值得公司就此与你展开一场谈话，因为在这个公司，你不是一个被认可、被认为有价值的人。

接下来，你希望得到更多信息：有哪些具体的反馈？是谁给出的？为什么是现在给？为什么之前不给？你能和其中一个人交流一下吗？你能了解一下文章的具体问题和可以修改的地方吗？

一段时间后，你被告知，你的上司可以给你看一份特权机密文件，你不知道这份文件是谁写的，反馈是谁给的，流程是怎样的。你写了一份详细的文件来讨论你能找到的任何反馈，向反馈者提问以及澄清一些问题。但这份文件完全被忽略了。你又一次被命令收回论文，没有任何交谈。

然后你试着和他们交流，告诉他们这是不能接受的，而他们不但没有反思，却开始做相反的事情——试图寻找替罪羊。

像这样压制边缘化的声音是与我们讨论过的 NAUWU 原则背道而驰。而在「负责任的人工智能」的背景下这样做，无异于在伤口上撒盐。我知道，在谷歌，唯一有意义的是等级。我感觉我的专业知识被完全否定了。但现在又多了一个问题，即任何有特权的人都可以在不跟你沟通的前提下决定不让你发论文。因此，你被挡在了研究社区的门外——你所做的工作还面临着其他的边缘化问题。

这封邮件发给了谷歌的数百名职员。在邮件中，Gebru 还呼吁大家停止为谷歌的 IDE 项目撰写文档。IDE 是 Diversity（多样性）、Equity（公平）和 Inclusion（包容）的首字母缩写，致力于解决谷歌内部的性别、种族等不平等问题。在 Gebru 看来，这个项目已经形同虚设。

Gebru 表示，这封邮件发出之后不久，她就遭到了谷歌的解雇。因此她认为，是自己对谷歌的批评导致了此次的「开除」事件。

但谷歌似乎并不认可这种说法。Google AI 负责人 Jeff Dean 周四给公司研究人员发了一封邮件回复此事。

对于解雇事件，Jeff Dean 给出了自己的解释，并认可 Timnit 对于自身研究方向做出的贡献。

Dean 说：

Timnit 和四位谷歌的同事以及一些外部研究者一起完成了一篇论文，这篇论文需要经过我们的内部评审流程（所有拿出去投稿的论文都是如此）。我们已经批准了数十篇 Timnit 和 / 或其他谷歌研究人员撰写的论文，这些论文也发表了。但我们都知道，在内部评审过程中，论文经常需要修改（有些甚至会被认为不适合发表）。不幸的是，这篇论文在大会 deadline 的前一天才分享给我们，而我们的审稿周期通常需要两周。因此，这篇论文没有时间等待反馈就得到了批准，进行了投稿。

随后，一个跨职能的团队按照常规对这篇论文进行了审查，并告知作者论文没有达到发表标准，还给出了原因。它忽略了太多相关的研究。例如，它讨论了大型模型对环境的影响，但却忽视了随后显示出更高效率的研究。同样，它也提出了对语言模型偏见的担忧，但却没有考虑近期缓解这些问题的一些研究。我们认识到，作者对 Megan 和我最终做出的决定非常失望，尤其是在他们已经把论文拿去投稿的情况下。

Timnit 回复了一封邮件并在邮件中提出了一些要求。她表示，只有满足这些要求，她才能继续在谷歌工作，包括披露我和 Megan 在论文审查和确定反馈过程中接触和咨询过的每个人的身份。Timnit 写道，如果我们没有满足这些要求，她就会离开谷歌，在一个截止日期前停止工作。我们接受并尊重她从 Google 离职的决定。鉴于 Timnit 是 Ethical AI 团队备受尊敬的研究人员和经理，我对她目前的工作感受感到非常遗憾。

我还感到非常遗憾的是，你们中的数百人刚刚在本周收到了 Timnit 的一封电子邮件，让你停止进行关键的 DEI 项目中的工作。请不要这样做。我理解过程中会出现一些挫折，但这是一份重要的工作，我们需要继续努力。

在邮件中，Jeff Dean 似乎并没有交代清楚双方的沟通细节，即 Gebru 有没有获得一个沟通的机会。因此，他的说法并无法令 Gebru 满意。Gebru 还在后续的推文中提出了新的观点，可以参见：https://twitter.com/timnitGebru

这件事情的复杂之处还在于 Gebru 作为一名女性黑人的特殊身份。包括 Gebru 在内的众多研究人员提倡多元化的员工雇用，以解决算法偏差问题和 AI Now Institute 负责人 Kate Crawford 所说的「 AI 的白人问题」。2016 年 AI Now Institute 的一份报告发现，谷歌 AI 研究人员中有 10％是女性。谷歌的 2020 年多元化报告显示，约有三分之一的谷歌员工为女性，而 3.7％为非裔美国人，5.9％为拉丁裔，0.8％为美洲印第安人。

此事引发了众多媒体的报道，并在社交网络上掀起了讨论的浪潮。Gebru 批评了谷歌在多元化方面所做的努力，称为避免遭到保守派的反对，谷歌的多元化计划有所缩水。得知这一消息后，国会小组委员会质疑该公司在实现多元化目标方面缺乏进展，以及 AI 研究是否被偏见所影响。

谷歌发言人告诉媒体，任何有关谷歌减少其多元化努力的建议都是「绝对错误的」。当被要求回答国会小组委员会提出的问题时，发言人没有回答。在乔治 · 弗洛伊德（George Floyd）逝世和历史性抗议活动的大约一个月以后，谷歌和其他大型科技公司一样，做出了关于多元化员工雇佣的新承诺。

在 Gebru 国家劳工审查委员会（NLRB）对谷歌提出投诉的当天，发现该公司监视并非法解雇了两名参与劳工组织的雇员。在离开谷歌的几天前发布的一条推文中，Gebru 质疑是否有一项法规可以保护人们免于 AI 伦理道德社区成员的举报人法律保护。

本周被任命为「黑人生命数据」组织的全国负责人的 Tawana Petty 今天早上发表了以面部识别等技术监视黑人社区以及白人至上主义危害的主题演讲。她高度肯定了 Gebru 的做法。

「她因为我们所有人都想要做的事而被解雇。」Petty 说道。

这次会议的组织者，曾在谷歌工作过的 Mia Shah-Dand 表示，Gebru 被解雇的事件反映了当前科技公司错误的文化，并表示黑人和女性需要更多支持。

Gebru 是公平、问责和透明会议（FAccT），非裔机器学习社区 Black in AI 的联合创始人。在机器学习顶会 NeurIPS 上，Black in AI 每年都会举行研讨会。

在加入谷歌之前，Gebru 加入了 Algorithmic Justice League 创始人 Joy Buolamwini 的工作中，并创建了 Gender Shades 项目，以评估来自 IBM 和微软等公司提供的面部识别系统的性能。Buolamwini 在 2017 年于 MIT 发表的论文展示了面部识别系统在白人男性用户中效果最佳，而在女性与其他族裔中效果不好的事实。Buolamwini 和 Deborah Raji 在 2019 年的研究和工作对立法者制定相关规范时产生了很大影响力。

在微软研究院工作期间，Gebru 是数据集综述研究「Datasheets for Datasets」的主要作者。这一研究之后成为了创建模型卡的动机。随后在谷歌期间，Gebru 加入了 Margaret Mitchell、Raji 等人 2019 年有关模型卡的研究，后者致力于提供一种用于机器学习训练评估时有关模型的基准信息。在该年底，谷歌云在部分 AI 服务中提供了模型卡，而在 2020 年谷歌引入了 Model Card Toolkit，允许开发者们自行创建模型卡。

今年夏天，Gebru 和她的前同事 Emily Denton 在计算机视觉顶会 CVPR 上主持了有关计算机视觉公平和道德的宣讲，其被大会组织者评为「所有人都需要关注的内容」。而在这之前，Gebru 陷入了与 Facebook AI 研究主管 Yann LeCun 有关人工智能偏见的论战之中，对于图灵奖获得者 LeCun 来说这可能是一个「被教育」的时刻，后者甚至在漫长的论战之中不甚其扰，一度表示要退出推特。

Gebru 的指控引起了机器学习社区广泛的关注，曾参与过 DeepMind 著名研究 Alphabet 的学者，UCL 名誉副教授 Julien Cornebise 表示：「即使我们不去讨论论文的内部审查制度，以如此方式解雇研究人员也让人不寒而栗。」

参考内容：

https://www.wired.com/story/prominent-ai-ethics-researcher-says-google-fired-her/

https://www.platformer.news/p/the-withering-email-that-got-an-ethical

https://venturebeat.com/2020/12/03/ai-ethics-pioneers-exit-from-google-involved-research-into-risks-and-inequality-in-large-language-models/

一场属于蓉城的“鲜香”盛宴，DevRun开发者沙龙邀您开启“麻辣”开发之旅

行至西南，遇见成都。

12月12日，DevRun开发者沙龙华为云成都专场将带你逐一解锁：AI开发与云原生DevOps的进阶之旅、华为云技术专家面对面的教学指导、技术瓶颈突破与核心效能提升的关键要义以及拥抱变革与自我进阶的最佳姿势。精彩不容错过！

识别二维码，立即报名。

© THE END 

转载请联系本公众号获得授权

投稿或寻求报道：content@jiqizhixin.com