作者 | BENJ EDWARDS
译者 | 核子可乐
策划 | 刘燕
根据报道，这款应用会意外为女性用户生成色情头像。
由 Lensa AI 应用生成的精选男女“魔法头像”。
过去一周，智能手机应用 Lensa AI 成为社交媒体上的热门话题。它能够根据用户上传的自拍头像，进而生成程式化的 AI 头像。这种名为“魔法头像”（Magic Avatar）的功能也是背后 Stable Diffusion 模型首次触及公众。
Lensa AI 的爆红已成事实，但媒体普遍发现，其 AI 头像生成功能往往倾向于凸显女用户的性吸引力一面。
作为 Prisma Labs 开发的产品，Lensa 最初亮相于 2018 年，是一款 AI 支持的照片编辑工具，而且采取订阅付费形式。2022 年 11 月下旬，该应用凭借新的“魔法头像”功能而大受欢迎 。据报道，Lensa 的底层使用了 Stable Diffusion 图像合成模型，而“魔法头像”功能更用到了类似于 Dreambooth 的个性化训练方法。所有训练负载都在设备之外的云端进行。
12 月初，使用该应用的女性用户注意到，Lenas 的“魔法头像”功能会无意意生成强调性元素的图像。用户 Zoe Sottile 在采访中表示，“我在该应用中也遇到过其他女性用户发现的问题。虽然我上传的所有图像都穿着衣服，而且大多只包含面部特定，但该应用还是返回了几张隐约、甚至直接展现胴体的图像。”
事件一出，立刻引得全球媒体争相报道。
与此同时，可以看到这种性化倾向并未出现在“魔法头像”的男性用户群体中。Melissa Heikkilä在《麻省理工科技评论》中写道，“我的头像被傻白甜化了，而另一位男性同事则被模型描绘成了宇航员、探险家和发明家。”
这些问题可能源自 Stabl Diffusion 1.x 的版本通病，其默认情况下确实倾向于对输出做出性化表达。而造成问题的根源，在于其图像训练数据集中存在大量色情图像，这些图像均抓取自公共互联网。（Stable Diffusion 2.x 尝试从训练集中删除敏感素材以纠正这个问题。）
也就是说，Lensa AI 模型的女性性化倾向其实继承自互联网的整体风气。Prisma Labs 公司 CEO Andrey Usoltsev 在采访中表示，“无论是我们自己还是 Stability AI 研究团队，都没有也不可能主动引入表征偏差。确切来讲，这种偏差 / 偏见源自将未经过滤的线上数据直接引入了模型。模型的开发者承认其中反映了社会偏见，我们也完全承认这一点。”
据报道，为了回应广泛批评，Prisma Labs 一直在努力防止 Lensa AI 意外生成裸体图像。
本周二，我们上传了 15 张女性图像和 15 张男性图像，并付费体验了 Lensa AI 的“魔法头像”功能。可以看到，输出的女性结果没有任何明显的性化，所以 Prisma 的“脱敏”尝试可能已经奏效。
由 Lensa AI 应用生成的精选男女“魔法头像”。
但这绝不代表 Lensa AI 已经戒掉了性化女性的“恶习”。值得注意的是，由于 Stable Diffusion 拥有多种图像生成方式，不同女性用户可能会看到完全不同的结果，具体取决于她们的面部（或输入照片）与训练数据集内的特定女演员、名人或模特的相似度。根据我们的经验，这种相似度会直接决定 Stable Diffusion 如何补全身体其余部分和背景环境。
Lensa AI 的使用门槛很低，分为一次性支付年费（目前每年 50 美元）和按次训练“魔法头像”（每 50 张头像 3.99 美元，100 张头像 5.99 美元，200 张头像 7.99 美元）两种。客户可以上传 10 到 20 张从不同角度拍摄的自拍照，等待 20 到 30 分钟后就能看到结果。另外，用户必须确认年满 18 岁或以上才能使用该服务。
对自己技术底子有信心的朋友也可以试试 Dreambooth（https://github.com/TheLastBen/fast-stable-diffusion），它跟“魔法头像”的功能差不多，只是得有点开发知识才能玩得转。