新的人工智能语言不应成为我们的关注点

原文作者：TONY TIE 

译者：李凌

概要：Batra 还解释说，与报道标题说的恰恰相反，实验并没有被关闭，而是对人工智能的语言交流进行了简单的调整。

图像来源: Snopek Nadia / Shutterstock

在过去的几个星期内，您可能看到您的一位Facebook好友分享了一篇有关人工智能的文章，该文章讲到了Facebook的聊天机器人是如何发明自己独有语言的，虽然这与研究人员最初的编程目的相违背。这篇文章的主要内容是：Facebook创建了可供相互交流（并相互学习）的双人聊天的人工智能程序，然而该程序最终自己停止了用英语交流，并开始用它们所“发明”的自己的语言来进行沟通。

有关这个事件的报道的标题从富有戏剧化变得更加的搏人眼球了，例如，电讯报报道“Facebook在发现聊天机器人发明了自己的语言后关闭了该机器人程序”，这听起来像是在说这个人工智能的聊天机器人意图谋害人类或对其他存在构成了严重的威胁。快速的扫视一下这篇文章后的评论我们可以看到大多数用户的反应都是恐惧、兴奋、或者是仅抱有娱乐的态度，留言中包含了“所以开始…”之类的字眼或着直接引用了Isaac Asimov作品中的片段。

但是，Facebook的AI Dhruv Batra在周一表示，人工智能这数十年来已经“发明”了多种相互沟通的新方式，所以这则消息实际上并不能算是新闻。

Batra 还解释说，与报道标题说的恰恰相反，实验并没有被关闭，而是对人工智能的语言交流进行了简单的调整。

此外，他们没有去试图隐藏实验的细节。一切都处于开放状态，GitHub上公开了所有详细信息，并且允许其他编码人员重复这些试验。但是底线是：在涉及到人工智能的时候，新的机器人语言应该是我们最不关心的方面。

 

这才是我们应该担心的事情

像Elon Musk和Bill Gates这样的科技影响者为了向人们解释说人工智能是一种威胁，已经在这上面花费了大量的时间和金钱，并且找出了推行道德准则的新方法。

以下这些是我们主要应该关心的一些领域：

 

武器。军用无人机已经被运用，自动化武器被描述为战争领域的第三次革命。自动化的智能武器能够最大程度上减少对士兵的伤害，并且它的花费要比像战斗机或者核材料这样的先进技术要少得多。例如，目前的Reaper无人机的成本约为1300万美元，而战斗机的成本则为1亿美元。在未来，智能武器将变得越来越便宜，无处不在的缺乏监管的（这意味着他们将是非常强大的）移动武器，将会使任何人都可以编出具有攻击性和毁灭性的程序（除非我们主动实施一些安全措施）。

 

控制。最重要的并不是人工智能本身，而是是谁来控制它。我们正在处理那些能够重塑我们的世界的力量，但如果这些力量是被一些贪婪的企业，或者是能源需求型的国家，甚至是一些本就不知道他们在做些什么的善良的人们来进行垄断的话，那么这些技术就很容易被滥用或误用。这就是为什么这几个硅谷巨头和人工智能的研究人员会聚集在一起组建OpenAI的原因，这是一个让人工智能全球化的举措，而不仅仅是让它受益于一部分人。这个举措的花费并不小，据报道，一名顶尖的人工智能研究员的市值已经被提高到了他原来两到三倍。

 

成长。人工智能的另一个问题是它的增长速度，当它不被限制参数控制时。人工通用智能（AGI）能让它自己的能力呈指数方式提高，因为它最初的设定就是能够自我提高的，并且在某种程度上它将超过其创作者的智慧。农业时代持续了千年，工业时代持续了几个世纪，信息时代也已经持续了数十年，而现在的人工智能可能只存在了几年;技术发展加速不是线性的，现在我们正处于进一步加速阶段，这使我们很可能会无法准备好去应对这种加速所带来的后果（如果我们采取的是一个消极的态度，而不是积极态度）。我们还没有创造超级智能，但是我们已经拥有了超级智能级别的处理能力——中国的天河2号能够每秒34万亿次计算（cps），远远超过人脑（10万亿cps）。如果我们想要去负责任地使用这种计算能力，我们需要一个能应对其无限制增长的基本点。这意味着我们要先去了解人工智能伦理学的发展，然后才能知晓哪些限制是行之有效的，以及在出现问题的情况下我们应采取保护措施。

对于如何使用人工智能以及它会在未来如何发展还存在着一些合理的而又严重的问题。但是，过分人格化被测系统或是让一些博眼球的标题来塑造我们的观点是极不负责任的。其实，发明新语言的聊天机器人并不是我们的威胁; 自然的，我们的注意力更多的放在其他地方。

 

本文系网易新闻&网易号“各有态度”特色内容

原文链接：https://venturebeat.com/2017/08/04/new-ai-languages-should-be-the-least-of-our-concerns/

---

欢迎加入未来科技学院企业家群，共同提升企业科技竞争力

一日千里的科技进展，层出不穷的新概念，使企业家，投资人和社会大众面临巨大的科技发展压力，前沿科技现状和未来发展方向是什么？现代企业家如何应对新科学技术带来的产业升级挑战？

欢迎加入未来科技学院企业家群，未来科技学院将通过举办企业家与科技专家研讨会，未来科技学习班，企业家与科技专家、投资人的聚会交流，企业科技问题专题研究会等多种形式，帮助现代企业通过前沿科技解决产业升级问题、开展新业务拓展，提高科技竞争力。

未来科技学院由人工智能学家在中国科学院虚拟经济与数据科学研究中心的支持下建立，成立以来，已经邀请国际和国内著名科学家、科技企业家300多人参与学院建设，并建立覆盖2万余人的专业社群；与近60家投资机构合作，建立了近200名投资人的投资社群。开展前沿科技讲座和研讨会20多期。  欢迎行业、产业和科技领域的企业家加入未来科技学院

报名加入请扫描下列二维码，点击本文左下角“阅读原文”报名