6小时4万种生化武器，食人族AI同类相食，AI让人瑟瑟发抖

---

  新智元报道  

编辑：桃子

【新智元导读】科学家一直以来争辩的AI末日论，是过于悲观了吗？

AGI还未来 ，但人工智能的发展已经让许多人感到惶恐不安。

近来的研究发现足以证明，AI可以被一些人支配用在不轨之处，比如制造武器。

就连马斯克此前曾说过，不受控制的人工智能可能比核武器更危险。

还有物理学家霍金曾也表达过同样意思的话，「完备人工智能的发展可能导致人类灭亡。」

AI生化武器：4万种

2022年3月，研究人员发现，人工智能在短短6个小时内发明了4万种可能的新型化学武器。

一个特别要关注的例子是VX神经毒剂，一种乙酰胆碱酯酶的抑制剂。要知道VX神经毒剂曾被日本邪教利用，造成1人死亡。

每当你做任何与肌肉有关的事情时，你的神经元都需要使用乙酰胆碱酯酶作为信号，然后才能移动肌肉。

VX的致命方式是它实际上阻止了你的横膈膜，你的肺部肌肉就不能移动了，从而导致肺部变得麻痹，无法呼吸。

研究人员用不同类型的分子做了实验，并建立了这些分子结构的大型数据集，来预测它们的毒性如何。

研究发现，其中AI生成的有些新物质甚至和VX神经毒剂类似，吸入5-10分钟即可导致抽搐、麻痹、痉挛，10-15分钟就会死亡。

实验结果也可以看到模型开始生成的这些分子，其中很多看起来像VX，也很像其他化学毒剂。

另外一个值得注意的点是，AI生成化学武器到底有多容易实现。

研究人员称，他们为人工智能模型提供动力的数据集是免费的。这意味着任何懂Python编程的人都可以访问，并创建一个类似于这种由有毒数据集驱动的生成模型。

如果AI能够大规模生产这类化学武器，又不受管控，那无疑是全人类的灾难，所以研究人员立刻报告了技术滥用的潜在风险。

论文主要作者 Fabio Urbina表示，

我不想危言耸听，说可能会有人工智能驱动的化学战，因为我不认为现在能做到，我也不认为这件事很快就会成为现实。但随着AI的发展，这确实成为了一种危险可能性事件。

AI具备人格，疯了？

前段时间，谷歌前工程师Blake Lemoine宣称自家的语言模型LAMDA有了意识和情感。

事情闹的沸沸扬扬...

6月份，华盛顿邮报最先爆出Lemoine的采访内容，他表示，LAMDA已经有了相当于七八岁孩子的智力。

与此同时，他写了一篇长达21页的调查报告上交公司，为了让高层认可AI具有人格一说。

在调查报告结尾，他提议谷歌应该致力于发展一种评估AI意识的理论框架。

谷歌高层不仅驳回了Lemoine的请求，还给他安排了带薪休假。

显然，按照以往惯例，被安排带薪休假的员工往往是解雇的前奏。

所以，在休假这段期间，Lemoine便把整个过程以及与AI的聊天记录公之于众。

随着事情不断发酵，谷歌最终还是解雇了他。

离开前，Lemoine 给所在的公司邮件组群发了一条信息，「LaMDA 是个可爱的孩子，它只是想让这个世界变得更好。我不在的时候，请好好照顾它。」

斯坦福大学经济学家Erik Brynjolfsson使用了一个绝妙的类比，声称LAMDA具有人格，就如同狗听到留声机里的声音后，以为主人在里面。

食人族AI，同类相食

到目前为止，AI做过的最令人毛骨悚然的事情是什么？

虚拟同类相食，算吗？

21世纪初，研究员Mike Sellers为美国国防部高级研究计划局（DARPA）开发了一个社交AI。

「我们有2个智能体，分别命名为亚当和夏娃。它们只知道如何行事，但对其他事情一无所知。比如知道如何吃，但不知道吃什么。」

研究人员便在模拟的环境中放置一颗苹果树，AI可以通过吃苹果来模拟饥饿感的满足而获得奖励。若是它们吃了树皮和房子，就不会触发奖励。

此外，研究人员又创造了一个叫Stan的智能体。

当亚当和夏娃吃苹果的时候，Stan正好也在场并在附近闲逛，它们便把Stan和吃苹果能够满足饥饿感联系在一起。

在吃完树上的苹果后，它们仍饥肠辘辘，便环顾四周，评估潜在的目标。

但是让人想不到的是，它们竟把Stan当成了食物，给吃了。

Mike Sellers表示，

在这个 AI 架构中，我们试图对行为施加尽可能少的限制……但在那之后我们确实设置了一个严格的禁止同类相食的限制：无论他们有多饿，他们都不会再互相吃同类了。

参考资料：

https://www.reddit.com/r/technology/comments/xgzw0u/three_times_artificial_intelligence_has_scared/