AIGC扰乱美国大选,深度伪造视频成本降至几美元,全球50万条伪造信息被分享

编译 | Glu

编辑 | 李水青

智东西6月1日消息,据英国路透社报道,伴随着最新一届美国大选的启动,人们将在本次大选中看到AIGC(生成式AI)驱动的各类深度伪造(DeepFake)信息,并混淆于现实与虚幻。

这类技术工具价格低廉、容易操作,且进步速度远超监管部门的反应速度,各党派皆可利用它抹黑竞争对手,获得选举优势。这也引发许多专家对虚假信息传播及其社会影响的担忧。

一、深度伪造仅需几美元,50万条伪造信息加剧美国大选乱象

2024年美国总统竞选拉开帷幕,各党派候选者竞争激烈:知名政客希拉里·克林顿(Hillary Clinton)公开支持参选的佛罗里达州州长罗恩·德桑蒂斯(Ron DeSantis);现任美国总统乔·拜登(Joe Biden)也撕下了对变性人的友好面具……参选的政治家们用各种方式争夺选票。

飞速发展的AIGC可能会加剧大选的混乱。如克林顿与拜登的深度伪造视频在社交媒体上流传着,这是由AI算法通过对大量网络录像的训练而制作的超逼真视频,这些视频日益模糊了虚拟与现实的边界。

▲美国总统乔·拜登

虽然这种合成媒体已经存在了几年,但在过去的一年里,Midjourney等一系列新AIGC工具的出现,深度伪造变得更为廉价且容易。

布鲁金斯技术创新中心的高级研究员说:“选民将很难区分信息的真假,政治分歧的双方都可以利用这项技术来抹黑对方。”他甚至担忧不良分子会在总选前利用AIGC作恶,最终导致无人成功当选总统。

美国CHT(人道技术协会)是一家研究技术对社会影响的非营利组织,它的联合创始人阿扎·拉斯金(Aza Raskin)提出,随着各大科技公司参与AI军备竞赛,能够用于深度伪造的工具将不断涌现,但政府与各平台对伪造信息的监管却很不完善。OpenAI的首席执行官萨姆·阿尔特曼(Sam Altman)本月也在国会表示,选举诚信是一个值得关注的重要领域,并建议迅速对该行业进行监管。

▲萨姆·阿尔特曼在参议院司法机构听证会上作证

本月,将与德桑蒂斯等人共同争夺共和党提名的前美国总统唐纳德·特朗普(Donald Trump)在其社交媒体平台Truth Social上分享了一段关于CNN(美国有线电视新闻网)主播安德森·库珀(Anderson Cooper)的伪造视频。CNN方否认了该视频的真实性,特朗普方则还没有回应,但本周这段视频还在他儿子小唐纳德的推特页面上。

虽然Facebook、Twitter和YouTube等主要社交媒体平台已经在努力禁止、删除深层伪造的信息,但它们在监管此类内容方面的效果各不相同。

DeepMedia是一家致力于开发检测合成媒体工具的公司,据它统计,与2022年同期相比,今年被发布在网上的深层伪造视频数量是过去的3倍,深度语音造假数量是过去的8倍。

DeepMedia公司估计,2023年全球社交媒体网站将出现约50万个深度伪造的视频和语音。毕竟,直到去年年底,克隆一个声音的服务器与AI训练还需要花费1万美元,但现在初创企业只需几美元即可实现。

受访者称,没有人能确定AIGC的道路会通向何方,也没有人确定如何有效地防范大规模深度伪造信息传播的影响。

二、OpenAI等企业采取措施,限制AIGC用于总统大选

路透社在分析大量AIGC服务性产品的使用条款后发现,不同于一些小型创业公司,OpenAI在努力解决深度伪造的负面影响,他们在最近几个月发布的ChatGPT与更新的GPT-4模型中改变了游戏规则,并已经采取措施限制其产品在政治中的使用。不过,这些限制依然存在漏洞。

例如,OpenAI说它的图像生成器DALL-E禁止政治家的图像创作。经过记者尝试后发现,DALL-E确实能够限制针对特朗普、拜登等政治家的图像创作,但无法适用于至少十几个其他美国政治家,包括本次竞选的参与者——前副总统迈克·彭斯(Mike Pence)。

OpenAI还限制将其产品用于政治目的规模化使用。例如,禁止使用其AI工具向选民大规模发送个性化的电子邮件。

OpenAI在采访中向路透社解释了其政治政策,但没有回应政策的实施差距,如阻止政治家的图像创作。

一些较小的初创公司则对政治内容没有明确的限制。

去年面世的Midjourney是AI生成图像的领先者,其官方Discord服务器上有1600万用户。该软件所具备的超现实名人图片生成功能,让它一跃成为众多AI设计师与艺术家最爱的应用。

在上周Discord的一次在线聊天中,Midjourney首席执行官大卫·霍尔茨(David Holz)表示,该公司可能会在总统选举前做出调整,以错误防止信息的生成与传播影响总选。

霍尔茨补充到,Midjourney希望就行业解决方案与其他公司进行合作,以实现AI生成图像的可追溯性,同时,他们也将考虑禁止政治候选人图像的生成。

三、政治竞争的工具:AIGC创作可抹黑对手、分析形势

在AI生成图像行业为如何防止AIGC的滥用而苦恼时,一些政治人物却在寻求利用AIGC的力量来增强自身的竞争力。

共和党在4月底发布了一则30秒的反乌托邦式的政治视频,利用虚假的图像,暗示拜登连任后的黑暗未来,包括中国入侵台湾、旧金山被军事接管的灾难性情景。目前,共和党、民主党都没有对该广告或更广泛地使用AI发表评论。

路透社还调查了所有共和党总统竞选活动的AI使用情况。其中,尼基·哈利(Nikki Haley)的团队明确否定对AIGC技术的使用,佩里·约翰逊(Perry Johnson)的竞选团队则透露,他们正在使用AI,但没有透露使用细节。

事实上,对于一些政治家来说,利用AIGC制作竞选邮件、帖子和广告的潜力是不可抗拒的,他们认为这种低成本的技术可以在选举中创造公平的竞争环境。

即使在密歇根州希尔斯代尔的农村,AI也在发挥作用。密歇根州第五国会选区的共和党主席乔恩·史密斯(Jon Smith)正在举行教育会议,让他的盟友能够学习AI的社交媒体运用和广告生成。

政治咨询公司也在寻求利用AI,进一步混淆了真实和虚幻之间的界限。

Numinar Analytics是一家专注于共和党客户的政治分析公司,创始人Will Long表示,该公司已经开始尝试用AI生成音频、图像、语音内容,以便利用候选人的声音来创建个性化的信息。

民主党民调和战略集团Honan Strateg在尝试开发AI调查机器人。首席执行官布拉德利·霍南(Bradley Honan)表示,他们希望在2023年市政选举前推出一个女性机器人,因为研究表明男性和女性都更愿意与女性面试官交谈。

结语:AIGC或将成为煽动社会危机的新工具,各方皆需保持警惕

与以往粗糙的合成信息不同,AI技术能够以极低的成本迅速生成逼真的音视频内容,为虚假信息的传播滋生了土壤。

当AI卷入新一届美国大选,成为党派竞争的政治工具,各类仇恨、阴谋论或将卷土重来。面对真假难辨的各类信息,亟需监管部门出台限制政策,也需要媒体、科技公司始终保持警惕。