一年前被解雇的谷歌AI伦理专家宣布成立研究所，专注防范AI伤害，对抗科技公司“作恶”

整理 | 刘燕

原谷歌 AI 伦理专家 Timnit Gebru 表示，其所成立的 AI 研究所 DAIR 致力于成为一家提供不同观点、并防止人工智能伤害的独立机构。

原谷歌 AI 伦理专家宣布

成立人工智能研究所

一年前被谷歌解雇的顶级 AI 伦理专家 Timnit Gebru ，近日宣布成立人工智能研究所。   

Timnit Gebru 

Timnit Gebru 曾是谷歌“伦理人工智能团队”（Ethical AI Team）的技术联合负责人 ，致力于解决人工智能算法存在的偏见等问题，同时还从事数据挖掘领域的工作。

去年 12 月 4 日，Timnit Gebru 在其个人推特上发布消息称：自己突然遭到公司的“邮件解雇”，原因似乎与她批评谷歌的政策相关。起因是，Timnit Gebru 所撰写的一篇关于批评大型人工智能模型危害的论文（包括谷歌开发的模型）引发争议。此外，格布鲁还曾公开指责过谷歌对待女性和黑人员工的方式。

自从离开谷歌以后，Timnit Gebru 就一直致力于成立自己的人工智能研究机构。

12 月 3 日，据外媒报道，在 Timnit Gebru 被谷歌解雇即将满一周年之际，她宣布成立了一家独立的人工智能研究所 —— “Distributed AI Research”（分布式人工智能研究，简称 DAIR）。

DAIR 致力于成为一家提供不同观点、并防止人工智能伤害的独立机构，该机构专注研究人工智能技术对某些边缘化群体的危害，这些群体往往面临着人工能系统所带来的不同程度的不利影响。

DAIR 旨在对抗大型科技公司在人工智能研究、开发和部署方面的普遍影响。例如此前，Timnit Gebru 曾开展了面部识别软件对有色人种的偏见的研究，这令亚马逊改变了其政策。

Timnit Gebru 表示，DAIR 将加入现有的小型独立机构的生态中去，如关注数据与社会、算法正义联盟和黑人生活数据等。她希望 DAIR 能够从外部影响谷歌等大型科技公司内部的人工智能政策和实践。

未来一年，DAIR 计划聘请 5 名研究人员。该研究所的首位研究员 Resetje Sefala 在南非工作，她一直在研究如何使用计算机视觉算法和卫星图像来追踪“空间种族隔离”（某些地区的少数群体隔离）相关问题。

Timnit Gebru 称，她必须持续关注大型科技公司，因为它们的危害可能非常严重。“此前我关注大型语言模型的危害问题，现在我关注社交媒体以及我家乡发生的事情，例如 Facebook 在埃塞俄比亚煽动种族暴力的报道”。

DAIR 是一家非营利性组织。目前，DAIR 已经获得了福特汽车、MacArthur、Kapor Center、洛克菲勒基金和开放社会基金会等共计 370 万美元的资金。后续，Timnit Gebru 希望开展一些与

DAIR 自身研究相关的咨询工作，以增加该机构的营收来源。

Timnit Gebru 表示，作为一家独立机构，DAIR 的目标是比大多数人工智能实验室更具包容性，DAIR 将更自由地质疑人工智能的潜在不利影响，而且不会受到“学术政治”和发表论文压力的阻碍，她认为，发表论文会使大学研究复杂化。

Timnit Gebru 还是著名的技术多样性倡导者，她联合创立了一个名为“Black in AI”的黑人研究人员社区。一直以来，她都在直言不讳地对科技公司对待黑人员工的方式提出批评。

加州大学洛杉矶分校 (UCLA) 教授 Safiya Noble 是 DAIR 的顾问委员会成员，她主要从事

科技平台如何塑造社会的研究，她认为，Timnit Gebru 的机构是人类在理解和应对技术对社会的影响方面取得新型进展和更具包容性的范例。

“黑人女性一直是帮助我们了解大型科技公司和各种对社会有害的技术的危害的主要贡献者，但我们知道黑人女性在美国企业界和学术界面临诸多限制。”“Timnit Gebru 意识到了谷歌的危害，并试图干预，但没有得到大量支持 —这家公司迫切需要这种洞察力。” Safiya Noble 说。

专注研究人工智能的不安全使用问题

本周二，Timnit Gebru 在欧洲议会的听证会上表示，政府需要遏制科技公司的力量，增加员工的力量，以保护人们减少人工智能被不安全使用所导致的风险。

她认为，监管必须到位。

此前，加利福尼亚州推出的《沉默不再法案》(Silence No More Act) 规定，公司阻止员工公开谈论骚扰或歧视是非法的。“我认为这需要普及。违反这些法律的公司应受到更严厉的惩罚，就像我们在亚马逊看到的大规模激进的工会解散活动一样。”

今年欧盟发布的全球第一部人工智能法律 ——《人工智能法案》，该法案对最有可能造成伤害的人工智能技术的使用进行了限制，法案提出了 AI 统一监管规则，旨在从国家法律层面限制 AI 技术发展带来的潜在风险和不良影响。该法案的首席谈判代表 Brando Benifei 呼吁《人工智能法案》建立一个补偿机制，并呼吁工会更多地参与其中。

Timnit Gebru 认为，科技公司和军事部门是人工智能技术开发的最大投资方。为了停止人工智能危害的恶性循环，政府需要投资其他社区建设人工智能技术。

“我们希望看到能优先考虑公民福祉的技术，而不是一场场科技竞赛，研究如何更有效地‘杀死’更多的人，或者为世界各地的少数公司赚最多的钱”....

Timnit Gebru 曾因批评谷歌 AI 政策被解雇

一年前，Timnit Gebru 被谷歌解雇的事件广受关注，并引发了一场关于员工质疑公司技术影响自由的争议。

当时，Timnit Gebru 在个人推特上发布消息称，自己突然被谷歌人工智能负责人 Jeff Dean 开除，个人公司账户也已经被公司切断。

Timnit Gebru 称，她的领导层对她的离职进行了“快车道”处理，原因是在本周早些时候，她向谷歌深度学习人工智能研究团队“谷歌大脑”（Google Brain）的女性成员和“盟友”发送了一封电子邮件。

邮件中，Timnit Gebru 提到，自己提交论文后，2 个月时间里没有得到任何反馈，而在休假期间，突然被命令需要在规定日期前撤回论文，且没给出任何原因。

她认为，像这样压制边缘化的声音的做法有悖于谷歌一直所倡导的“构建负责人的 AI”原则，“我认为，在谷歌，唯一有意义的就是等级制度。我看到我的专业知识被忽视。而且，任何有特权的人都可以决定他们不希望你的论文在没有沟通的情况下发表”。

随着事件的发酵，作为另一当事人的 Jeff Dean 通过邮件的形式正面回应称，Timnit Gebru 被解雇事件的起因并非歧视，而是她的论文未达标。

据 Jeff Dean 描述，这件事发生的背景和经过是，Timnit 与四名谷歌同事以及一些需要经过审查的外部合作者共同撰写了一篇论文。论文通常需要在内部审查过程中进行修改（或者甚至被认为不适合提交便会被否决）。但 Timnit 这篇论文只在截止日期前一天才被分享出来——实际上我们通常需要两周的时间进行审查——然后这篇论文没有等待审稿人的反馈，而是被批准提交后进行了提交。

随后，一个跨职能团队对这篇论文进行了审查，作者被告知，这篇论文没有达到我们规定的发表的标准，并得到了关于原因的反馈。论文中忽略了太多相关的研究——例如，它谈论了大型模型对环境的影响，但却忽视了之后的研究显示出了模型能产生更高效率的研究。同样，它也提出了对语言模型偏见的担忧，但没有提到最近的一些研究正在试图缓解这些问题。

Timnit Gebru 的经历在社交平台引发了热烈讨论，推特上有不少科学家纷纷转发相关新闻并表态支持她。

其中包括一个由谷歌现任及前员工联合创立的“Google Walkout For Real Change”组织，他们在博客上发起了签名运动。

该组织还向谷歌高层提出，要求参与审查 Gebru 论文决定的人员解释领导层单方面拒绝论文的原因及过程，Google 领导层命令 Gebru 及其同事撤回对大规模语言模型的研究的决定。此外，要求 Google Research 承诺通过提供明确的指导方针来审查 Google 的 AI 原则等。

参考链接：

https://www.washingtonpost.com/technology/2021/12/02/timnit-gebru-dair/

https://techcrunch.com/2021/12/02/google-timnit-gebru-ai-research-dair/

今日荐文

点击下方图片即可阅读

请不起日薪2万+的网络安全人才，就做不好数字化转型吗？

---

你也「在看」吗？👇