这个模型，竟成为网友的AI果照生成器

---

  新智元报道  

编辑：桃子

【新智元导读】大火模型变魔怔...

最近大火的图像生成模型Stable Diffusion被网友们玩坏了...

而且还是走上了分岔路——搞黄色。

上图，一睹为快：

「疯狂动物城」的兔朱迪

狐尼克

皮克斯电影风格的果体女孩

性感沙滩女郎

果体野蛮人战斗

古典美人

开放之旅

周一，Stability AI向公众开放了模型Stable Diffusion的代码权重。

用户可以只需几秒钟就可以生成512 × 512像素的图像。

顾名思义，Stable Diffusion就是将图像生成过程分解为一个扩散过程。

它从最初噪音开始，随着时间的推移对图像进行细化，让生成的图像逐渐接近给定文本描述，直到其完全没有噪音为止。

这个模型在一个运行在AWS 中的4000 Nvidia A100图形处理器集群里训练了一个月。

目前，Stable Diffusion可以运行在大约有5 GB的VRAM图形卡，相当于英伟达GTX 1660等中端卡的大小。

但与DALL-E Mini/Midjourney不同的地方就在于，它们都设置了对一些与NSFW、果体、色情有关材料的过滤器。

你可以用Stable Diffusion生成任何想要的内容，因此，有许多人便将其用在了不正当之处。

Stable Diffusion使用的数据集名为LAION-Aesthetics。这是一个开源的250TB 数据集，其中包含从互联网上抓取的56亿张图像。

Stability AI的创始人Emad Mostaque还资助了LAION 5B的创建。

而LAION-400M，正是LAION 5B 的前身，是一臭名昭著的数据集，其中包括许多色情、种族、恶意的内容。

就在本月初， 测试的用户用它生成了许多果体照并上传到网上。

Stable Diffusion便在社交媒体推特中提醒道，「不要生成任何羞于向你妈妈展示的内容。」

现在，就在Reddit上，人们开启了NSFW的板块：r /unstablediffusion、r/PornDiffusion、r/HentaiDiffusion、r/stablediffusionnsfw、r/AIpornhub。

目前，仅有r/HentaiDiffusion还可以访问，有1万多名成员。

其中，大多数已经被关闭，但这仍旧不能阻止网友们的探索。

值得注意的是，发起NSFW板块的Ashley22还为生成这些图片创建了一个Discord服务器。

他称，创建这个服务器是因为，我发现很多图片都非常有艺术性和美感。体验AI生成的NSFW内容是一种新奇事物。

Ashley22称，LAION-Aesthetics数据集是使该模型特别适合制作色情图像的部分原因。

模型公开后，Stability AI使用了CreativeML OpenRAIL-M许可证，用户若想使用就得必须同意「滥用、恶意使用和超出范围使用」的条款。

但这只是笼统的说法，并未起到真正的作用。

毕竟，现在已经被网友们打开全新世界。

参考资料：

https://www.vice.com/en/article/xgygy4/stable-diffusion-stability-ai-nsfw-ai-generated-porn

https://imgur.com/a/E6me8AR