被谷歌解雇1周年，非裔女研究员成立「分布式AI研究所」

---

  新智元报道  

编辑：小咸鱼 David

【新智元导读】一年前，被谷歌解雇的黑人女研究员Timnit Gebru曾引发了关于科技巨头中少数族裔权益和AI技术偏见的争议。近日，Gebru宣布另起炉灶，开设自己的AI研究机构「分布式AI研究所」（DAIR）。

一年前，谷歌人工智能研究员 Timnit Gebru 在推特上写道：「我被解雇了」，引发了一场关于公司员工是否可以自由质疑公司技术产生影响的争议。

 

 

Gebru声称，她被解雇的主要原因是发送了一封邮件，随后就被停掉了账号权限，并被谷歌AI部门负责人Jeff Dean扫地出门。

 

 

据《纽约时报》报道，这封电子邮件中，Gebru对谷歌对她和其他员工努力增加少数族裔的招聘和AI偏见的关注的回应表示自己的不满和愤怒。

 

 

她在邮件中写道：

 

「当你开始为代表性不足的人辩护时，你的生活开始变得更糟。你开始让其他领导人心烦意乱，无论是起草再多的文件，发送再多的邮件，还是进行更多的对话，都无法实现任何目标。」

 

 

此前，Gebru担任谷歌AI伦理部门的联合负责人，作为一名黑人女性，她与其他24名委员共同负责就谷歌内部的AI技术利用中存在的伦理和道德问题向公司提出建议。

 

不过，作为前东家，谷歌曾表示她是自己辞职的，并不是解雇，但谷歌后来承认解雇了该部门的另一位研究员玛格丽特·米切尔。

 

从此以后，谷歌对其研究人员的研究主题和内容开始进行严格的检查。

 

谷歌发言人 Jason Freidenfelds 也提到了最近一份关于该公司AI治理工作的报告，该报告称，自 2018 年以来，谷歌已经发表了 500 多篇关于「负责任的创新」的论文。

 

 

现在，时隔一年，Gebru自己成立了一个新的研究机构，专门研究如何「负责任地」使用AI技术，Gebru 表示：「谷歌和其他科技公司做不到这一点」。

 

 

Gebru的研究机构名为「分布式AI研究所」 (DAIR) ，她任创始人兼执行董事。

 

Gebru说：「我不想从内部进行斗争，而是想展示一个具有不同激励结构的独立机构的原型」。

 

DAIR这个名字的第一部分——「分布式（Distributed）」，源自她希望自己研究机构比大多数人工智能实验室更具包容性，不会偏向于白人、西方人和男性，而且会从世界各地招募在科技行业中没那么有代表性的人。

 

 

经历过这些，Gebru 表示，DAIR 将允许员工们更自由地质疑 AI 的潜在缺点，并且不会受到学术和出版压力的阻碍。

 

Gebru 说，DAIR 还将致力于展示其他实验室不太可能探索的人工智能新用途，旨在激励其他人将AI技术推向新的方向。

 

Gebru在推特上宣布了DAIR的成立，并对支持她推进女性和少数族裔权益的努力的人表示感谢。

 

 

「值得庆祝的一天，谢谢各位支持。」

 

DAIR其中一个项目是创建南非航空影像的公共数据集，以调查种族隔离与土地使用的关系。

 

该项目的论文将在本月晚些时候在全球最著名的人工智能会议 NeurIPS 上首次亮相，而该论文的主要作者，正是DAIR 的第一位研究员 Raesetje Sefala 。

 

 

加州大学洛杉矶分校的教授 Safiya Noble ，也在 DAIR 的顾问委员会任职。

 

Safiya Noble认为：「Gebru 认识到了谷歌的危害并试图进行干预，但在很大程度上得不到支持，所以现在社会上其实迫切需要有洞察力的公司。」

 

白宫科技政策办公室今年聘请了两名从事算法公平性研究的著名学者，他们正在制定一项「权利法案」，以防范AI技术可能带来的危害。

 

 

随着DAIR 的成立，新的非营利组织和研究中心如雨后春笋般涌现， 他们致力于 研究人工智能对世界的影响。 越来越多的研究人员也在研究算法的影响和正确使用 算法 的原则 ，法律和社会学等其他领域的学者也将批判的目光投向了人工智能。

 

Gebru 认为，在使用人工智能技术的过程中，其可能产生的危害是可以预防的，AI应该为人们服务，而不是给人类带来不幸。基于 DAIR，Gebru 旨在创造一个拥抱道德、维护大众福祉的研究环境。

 

「人工智能需要回归地球，」Gebru 说。「它现在已经被提升到超人的水平，甚至有可能会超出我们的控制。只有当人工智能的研究、开发和部署从一开始就植根于人和社区，我们才可以战胜这些危害，创造一个重视公平和人性的未来。」

参考资料：

https://www.wired.com/story/ex-googler-timnit-gebru-starts-ai-research-center/

https://www.dair-institute.org/press-release

https://twitter.com/timnitGebru/status/1466437030515253260?ref_src=twsrc%5Egoogle%7Ctwcamp%5Eserp%7Ctwgr%5Etweet