TikTok将为人工智能生成内容贴上标签

鞭牛士报道,5月10日消息,TikTok 周四表示,计划开始对上传到其视频共享服务的人工智能生成的图像和视频进行标记,使用称为内容凭证的数字水印。
研究人员担心人工智能生成的内容可能会被用来干扰今年秋天的美国大选,而 TikTok 已经是今年早些时候签署协议承诺与之抗争的20 家科技公司之一。
该公司已经标记了使用应用程序内部工具制作的人工智能生成的内容,但最新举措是将标签应用于服务外部生成的视频和图像。
「我们还制定了禁止未标记的真实人工智能的政策,因此,如果真实人工智能(生成的内容)出现在平台上,那么我们将因违反我们的社区准则而将其删除。」TikTok运营、信任和安全主管Adam Presser在接受采访时表示。
内容凭证技术由内容来源和真实性联盟牵头,该联盟是 Adobe 、微软等共同创立的组织,但开放给其他公司使用。
它已经被 ChatGPT 创建者 OpenAI 等公司采用。
YouTube、Google 和拥有 Instagram 和 Facebook 的META公司也表示,他们计划使用内容凭证。
为了使系统发挥作用,用于制作内容的生成式人工智能工具的制造商和用于分发内容的平台都必须同意使用行业标准。
例如,当一个人使用 OpenAI 的 Dall-E 工具生成图像时,OpenAI 会在生成的图像上附加水印,并将数据添加到文件中,以便稍后指示它是否已被篡改。
如果该标记的图像随后上传到 TikTok,它将自动标记为 AI 生成。
中国字节跳动旗下的TikTok在美国拥有1.7亿用户,美国最近通过了一项法律,要求字节跳动剥离TikTok,否则将面临禁令。 
TikTok 和字节跳动已提起诉讼,要求阻止该法律,称其违反了第一修正案。