让AI“创造了语言”的Facebook研究员怒怼媒体报道“不负责任”

安妮 编译整理
量子位出品 | 公众号 QbitAI

这两天又闹的沸沸扬扬的Facebook的聊天机器人事件也该有个了结了。

前情提要，这场话剧的剧情分为三步走。

事件的起因是6月15日Facebook人工智能研究院（FAIR）的研究人员提供了关于对话型AI系统的开源代码，想让AI学会谈判协商，还在arXiv上发表了论文《Deal or Deal? End-to-End Learning for Negotiation Dialogues》。量子位之前对这件事情也进行了报道。

6天过后，FAIR里又传出一些奇怪的AI对话，两个智能体以人类无法理解的姿势进行着“i”和“to me”的循环。奇怪的是Facebook的数据表明这对智能体成功完成谈判。

△ 点击上段蓝字查看量子位之前报道

这两天事件又升了个温。据外媒报道，目前Facebook已经关闭了这个让AI智能体练习谈判的项目，研究人员表示，两个机器进行交流没有意义，他们希望AI能更多地与人类交流。

Facebook关闭项目重新吸引了媒体的注意。《伦敦太阳报》说：“机器人智能很危险：在facebook的AI创造了自己的语言后，专家发出了警告。”

可能觉得很多媒体对此事的报道言过其实了，本周一，参与了本项目的FAIR小组的研究人员Dhruv Batra在Facebook上发布了声明：

虽然AI智能体发明自己的语言可能会让外界感到惊讶，但它是AI的一个成熟的子领域，相关出版物可追溯到几十年前。

简单地说，智能体在尝试解决任务的环境中经常会发现不直观的方法最大限度地获取奖励。分析奖励函数、更改实验参数与“拔电源”、“关闭AI”完全不是一回事。按这种说法，每个AI科研人员在停掉机器上的某个任务时都“关闭”过AI。

Batra称某些媒体报道是“骗流量且不负责任”的。此外，谈判智能体从未在生产中使用，还只是一个研究实验。

FAIR的其他研究人员也怒怼了媒体的恐怖报道。

研究人员Edward在Twitter上对一篇报道表示不满，“难道你们就没有其他编辑可用了吗？？”

hardmaru发推文表示“《自AI发明了自己语言后Facebook关闭了它》这篇报道的题目非常不负责任，作者应该对它感到羞耻”。

不过话说回来，Facebook AI智能体引发的这场话剧也该落下帷幕了。

—— 完 ——

活动报名

8月9日(周三)晚，量子位邀请三角兽首席科学家王宝勋，分享基于对抗学习的生成式对话模型，欢迎扫码报名 ▼

交流沟通

量子位还有自动驾驶、NLP、CV、机器学习等专业讨论群，仅接纳相应领域的一线工程师、研究人员等。

请添加小助手qbitbot2为微信好友，提交相应说明，符合条件将被邀请入群。（审核较严，敬请谅解）

诚挚招聘

量子位正在招募编辑/记者，工作地点在北京中关村。期待有才气、有热情的同学加入我们！相关细节，请在量子位公众号(QbitAI)对话界面，回复“招聘”两个字。

量子位 QbitAI

վ'ᴗ' ի 追踪AI技术和产品新动态