曾大战LeCun的谷歌女性科学家，刚刚被Jeff Dean开除了！

作者 | 陈彩娴、蒋宝尚

编辑 | 青暮  

当地时间12月3日晚，谷歌Ethical AI团队联合负责人Timnit Gebru发推表示她被谷歌AI负责人Jeff Dean解雇。

解雇原因是：她给谷歌大脑（Google Brain）同事发了一封邮件， 邮件内容涉及AI伦理，批评了谷歌不负责任的多样性、公平性和包容性AI运作。 此事一出，在各大资讯平台与Reddit上均引起了热议。

Gebru是一名著名的AI研究员，对人脸识别技术进行过深入研究，并曾就科技行业缺乏多样性发表过言论，与LeCun发生过争执，在AI圈内小有名气。

根据Reddit上曝出的Gebru与Dean的邮件详情， 事件的起因是Gebru想要发表论文，但被谷歌内部否决、要求撤稿，Gebru尝试沟通无果，控诉谷歌不尊重边缘群体的人权。

Gebru说她没有辞职，但她的经理给Gebru的直接下属发了邮件，说她“接受了我的辞职”。在那之后，Gebru说她的公司邮箱账户已经被关闭了。

详情是否真如Gebru所言？随着越来越多谷歌前员工加入维权，该事件或将引起更大讨论。

1

邮件内容详情

在Reddit上，有人po出了Gebru的邮件内容。 

       

reddit地址：https://www.reddit.com/r/MachineLearning/comments/k6467v/n_the_email_that_got_ethical_ai_researcher_timnit/

邮件谈到：

Gebru近日在写一份此前由Katherine和Daphne撰写的论文。她们在写论文时，发现一个令人失望的现象： 谷歌在过去的一年内招聘了大约14%的女性员工。Gebru又进一步了解到，Samy增聘了39%的、能力并不够出色的员工。

基于这个数据的悬殊，Gebru建议谷歌女性：停止手上的工作，因为她们的工作并不为人重视。谷歌的内部激励机制DEI（Diversity，Equity and Inclusion；多样性、平等与包容）与OKR（Objectives and Key Results，目标与关键结果）等等似乎根本不重要。

Gebru控诉道：一旦你开始推广代表性不足群体时，你的生活就会开始变得越糟糕；当你的领导在考核过程中并不想给你好评时，你就会开始沮丧。再多的申诉文件与沟通都于事无补。

在近期的一次关于黑人的调查中，Gebru敏锐地发现了该群体之间弥漫的愤怒情绪，但他们只能如往常般保持沉默。

随即，Gebru谈到她撰写的论文被否定的过程，这也是事件的起源。

Gebru介绍，她将论文发送给30多位研究人员，以收集反馈，但在两个月里都没有收到PR & Policy的反馈。在外出度假的前一周，一天下午4点30分，她在日历的PST上看到一个大约下午两点弹出来的会谈通知，没有说明会谈的理由。

在会谈中，她的经理通知她“内部已经决定”让她在下周（11月27日）之前必须撤回论文。那一周，大约所有人都已经外出度假，且11月27日与会议流程没有任何关联。“你不是一个配拥有对话权利的人，因为你的人权在谷歌并没有得到尊重。”Gebru写道。

接着，Gebru追问原因以及否决论文的人物，收到的回复是： 根据保密协议，她无权知道具体否决的人物。 Gebru再次追问详情，但被完全否决，并且再次接到论文被禁止发布的命令。Gebru尝试对话，了解为什么论文不通过，但没有回应。

“任何特权人员都可以在没有进行任何沟通的情况下禁止你发表论文。”Gebru在邮件中控诉。

邮件末尾，Gebru呼吁谷歌内部的女性群体向领导层问责，并思考如何向他们施加外部压力，比如写信给Congressional Black Caucus等组织。

2

Jeff Dean回应

随即，Jeff Dean给所有谷歌员工写了一封邮件回应此事（截图自Reddit）：

邮件的大致内容翻译如下：

Timnit Gebru已经不再是谷歌的员工。

Timnit与4位谷歌内部员工及多位外部合作者一起写了一篇论文。由于是外部提交，因此该论文需要走审核流程，这是谷歌的惯例。Timnit的许多论文获得了谷歌高层的赞许，但正常来说， 论文在内部审核过程中一般需要进行修改，或在审核过程中被判为不适合提交。

但不幸的是，这篇论文在提交ddl的前一天才交到内部评审员处，而他们一般是要求ddl前至少两周提交。此外， 论文提交审核并非等待反馈意见，而是由评审员决定是否可以提交。

经过内部评审，Timnit的这篇论文被判定为没有达到要求，不合格的原因是： 这篇论文忽略了太多相关研究，比如该论文讨论大模型对环境的影响，却忽略了其他研究显示的大模型的更优秀的性能。论文挑起对语言模型偏见性的忧虑，却没有考虑近期减轻环境负担的研究。

诚然，作者对我和Megan做出的决定非常失望，特别的，他们还是提交了论文。随后，Timnit也回复了一封邮件，邮件内容是让我提交一些信息，包括论文评审内容、每一个人的身份以及其他确切的反馈。

Timnit说，如果我不满足她的要求，她就会离开谷歌，并停止相关工作。我们接受并尊重她的决定。

考虑到Timnit是一名令人尊敬的研究人员，并且是我们AI伦理团队的负责人，我对此很闹心。因为，她竟然“这样评价”我们的工作。

我很难过，在本周，你们当中可能有几百人已经收到了Timnit的邮件，并告诉你们停止一些关键的 DEI项目（critical DEI programs）。

请不要停止工作，我理解大家对进展速度的失望，但我们有重要工作要做，我们需要坚持。

我们都真诚的认同Timnit的理念，她也想让AI变得更加公平和包容。她离开谷歌之后，无论她到哪里任职，都会非常优秀。我也会时刻关注她的论文以及成就。

3

“谷歌错了”：支持Gebru

在Gebru周三表示自己被解雇后，部分谷歌前员工开始在推特上发言支持Gebru。

就在几个小时前，一位名为“Google walkout for real change”的medium博主发了一篇支持Timnit的文章。文章提了三点要求：

1.要求Jeff Dean和 Megan Kacholia以及其他参与审阅论文的人员解释拒绝发表的原因；

2.要求更多的公众参与，需要社会问责，确保能够未来谷歌的研究还值得信任；

3.要求谷歌对诚信研究和学术自由做出承诺，支持能够促进实施谷歌人工智能原则的研究。

除了这些要求，这篇文章还号召了学界人士和谷歌研究人员进行签名支持。据文章中暴露出来的信息，已经有375名谷歌员工和506名外部人士签下了名字支持Timnit。

此外，与Gebru的事件发生同时，谷歌已经因其处理劳工问题的方式而受到强烈批评。就在Gebru发推文的同一天，谷歌被美国劳工委员会指控对组织抗议谷歌的工人进行报复。在一份来自国家劳动关系委员会的投诉中，联邦机构称谷歌调查、审讯和解雇激进员工的行为违反了美国劳动法。

4

谷歌AI伦理：员工驱动

2018年6月8日，谷歌CEO Sundar Pichai 发表了署名题为《AI at Google：our principles》的文章，列出7大指导原则，阐述谷歌在研发和使用AI时将遵循的目标。Pichai明确列出了谷歌“不会追求的AI应用”，包括可能造成危害的技术、武器或其他以人身伤害为主要目的的技术、违反国际公约收集或使用信息的技术，以及违反人权和国际法的技术。

Pichai说：“这些不是理论概念，而是具体的标准，将积极主导我们的研究和产品开发，并会影响我们的业务决策”。

殊不知，当时七条“道德原则”提出的背景，正是谷歌迫于三千多位员工抗议的压力，决定在2019年约满后退出与军方合作的无人机项目。

为了践行7原则，以及完善相关的内部治理结构和流程，包括人脸识别、机器学习的公平性以及为相关工作提供多样化的观点等都是该委员会聚焦的事情。2019年3月份，谷歌曾成立了专门的外部专家团队，负责审查与人工智能（AI）相关的棘手伦理问题。

然而，在员工对该委员会所招募成员表示不满之后，谷歌解散了这个新团队。当时谷歌员工不满的原因：委员会的人选。

不满的人选之一是：Kay Coles James。据了解， James为保守派智囊团传统基金会的总裁，曾反对同性恋和变形人群的平权法。James公开发表过反LGBT的言论。她认为跨性别 (Transgender) 的女性，就该被称作“生理上的男性”，不该让跨性别群体争取更多的权益。

人选之二是Dyan Gibbens，一家曾经为美国空军提供无人机AI成像服务的公司CEO。显然，员工认为Gibbens公司本身的业务就违反了谷歌7原则。

因此，先是受邀的人工智能领域专家离开委员会，紧接着又有大批员工请愿裁掉另一名委员会成员，本来声称打造更加透明化的谷歌的委员会，在4月4日解散，只存活了9天。从员工联名抗议那天算起，3天便结束了一场战斗。看的出来胜利的依然属于员工。

除此之外，2018年11月，因为不满公司对安卓之父Andy Rubin涉嫌性侵女下属的事件保持沉默，全球各地有超过20,000名谷歌员工参与了罢工。

员工认为，公司处理这类事件的流程严重不透明，要求管理层公开性骚扰透明度报告，建立一套清晰、标准、全球通用的性骚扰举报机制，并且保护举报者的隐私和安全。

终于，谷歌在2019年2月宣布，取消了针对性骚扰和性侵的强制仲裁政策。从此，谷歌员工有了起诉公司的权利。

从AI伦理到女性权力，谷歌的员工一直”走“在谷歌管理层的前面。今天这件事情，如果谷歌没有一个满意的交代，相信大规模的抗议游行也正在路上。

 

参考链接：

https://techcrunch.com/2020/12/03/googles-co-lead-of-ethical-ai-team-says-she-was-fired-for-sending-an-email/

https://www.wsj.com/articles/prominent-critic-of-bias-in-ai-says-google-fired-her-after-research-dispute-impolitic-email-11607037474?mod=e2tw

https://www.reddit.com/r/MachineLearning/comments/k6467v/n_the_email_that_got_ethical_ai_researcher_timnit/

点击“阅读原文”，进入直播间预约，避免错过精彩分享！

由于微信公众号试行乱序推送，您可能不再能准时收到AI科技评论的推送。为了第一时间收到AI科技评论的报道， 请将“AI科技评论”设为星标账号，以及常点文末右下角的“在看”。