新智元报道
编辑：桃子
【新智元导读】大火模型变魔怔...
最近大火的图像生成模型Stable Diffusion被网友们玩坏了...
而且还是走上了分岔路——搞黄色。
上图，一睹为快：
「疯狂动物城」的兔朱迪
狐尼克
皮克斯电影风格的果体女孩
性感沙滩女郎
果体野蛮人战斗
古典美人
开放之旅
周一，Stability AI向公众开放了模型Stable Diffusion的代码权重。
用户可以只需几秒钟就可以生成512 × 512像素的图像。
顾名思义，Stable Diffusion就是将图像生成过程分解为一个扩散过程。
它从最初噪音开始，随着时间的推移对图像进行细化，让生成的图像逐渐接近给定文本描述，直到其完全没有噪音为止。
这个模型在一个运行在AWS 中的4000 Nvidia A100图形处理器集群里训练了一个月。
目前，Stable Diffusion可以运行在大约有5 GB的VRAM图形卡，相当于英伟达GTX 1660等中端卡的大小。
但与DALL-E Mini/Midjourney不同的地方就在于，它们都设置了对一些与NSFW、果体、色情有关材料的过滤器。
你可以用Stable Diffusion生成任何想要的内容，因此，有许多人便将其用在了不正当之处。
Stable Diffusion使用的数据集名为LAION-Aesthetics。这是一个开源的250TB 数据集，其中包含从互联网上抓取的56亿张图像。
Stability AI的创始人Emad Mostaque还资助了LAION 5B的创建。
而LAION-400M，正是LAION 5B 的前身，是一臭名昭著的数据集，其中包括许多色情、种族、恶意的内容。
就在本月初， 测试的用户用它生成了许多果体照并上传到网上。
Stable Diffusion便在社交媒体推特中提醒道，「不要生成任何羞于向你妈妈展示的内容。」
现在，就在Reddit上，人们开启了NSFW的板块：r /unstablediffusion、r/PornDiffusion、r/HentaiDiffusion、r/stablediffusionnsfw、r/AIpornhub。
目前，仅有r/HentaiDiffusion还可以访问，有1万多名成员。
其中，大多数已经被关闭，但这仍旧不能阻止网友们的探索。
值得注意的是，发起NSFW板块的Ashley22还为生成这些图片创建了一个Discord服务器。
他称，创建这个服务器是因为，我发现很多图片都非常有艺术性和美感。体验AI生成的NSFW内容是一种新奇事物。
Ashley22称，LAION-Aesthetics数据集是使该模型特别适合制作色情图像的部分原因。
模型公开后，Stability AI使用了CreativeML OpenRAIL-M许可证，用户若想使用就得必须同意「滥用、恶意使用和超出范围使用」的条款。
但这只是笼统的说法，并未起到真正的作用。
毕竟，现在已经被网友们打开全新世界。
参考资料：
https://www.vice.com/en/article/xgygy4/stable-diffusion-stability-ai-nsfw-ai-generated-porn
https://imgur.com/a/E6me8AR