AI生图五大乱象|被复活的逝者:法律的真空,伦理的挑战

在当前这个AI遍地走、门槛近乎无的时代,如果你还没有试过用AI生成图片或视频(以下统称AI生图),那确实有点不够“潮”了。

与其他新技术一样,AI生图技术自诞生之日起就充满争议,一路鲜花与荆棘相伴。支持者视它为颠覆性的技术革命,反对者视它为洪水猛兽。特别是近两年以ChatGPT、Sora为代表的AI数据大模型横空出世,AI生图已成为刷屏时尚,受到越来越多的网民追捧。它在给人们带来极大便利、惊奇、抚慰的同时,也必然暴露出诸多荒诞不堪、令人生厌、甚至违法犯罪等负面问题。

AI本无罪,关键在于如何使用它。只有坚守伦理和法治底线,技术才能更好造福人类。今天,上游新闻推出“AI生图五大乱象”专题报道,聚焦近年来AI生图领域里暴露出的种种乱象,追根溯源、剖析因果,探索解决之道,以期对AI产业健康发展有所裨益。

今年清明期间,“AI复活亲人成热门生意”频频登上热搜。9月21日,南开大学举行活动,创校校长张伯苓借助AI技术“复活”,与南开大学师生展开了一场跨越105年的对话,再度引来公众对于相关技术领域的关注。

近日,上游新闻(报料邮箱baoliaosy@163.com)记者从相关业内人士处了解到,时隔半年,随着相关部门以及平台监管的加强,以及AI技术本身存在的伦理、法律风险,在清明节一度火爆的“AI复活逝者”生意如今受到了一定的限制,部分企业也开始将重心从“复活逝者”转向复刻在世者、数字祠堂等业务。

清明期间一天上百单

4月4日,“清明节前AI复活亲人生意火热”的话题登上热搜。有媒体记者发现,在电商平台上许多商家正在做着“AI复活”的生意,这些商品的定价不等,标价从几元、几十元,到上百元,乃至数千元的都有,所提供的产品也参差不齐,甚至有人为了赚快钱,只是简单地让照片动起来。

在某平台上,还有商家趁势推出“AI复活师”的教学套餐和代理服务,有意将单一的生意打造成一条完整的产业链。

电商平台上某商家告诉媒体,让人物动起来需要20元,定制人物说话内容需要50元,模拟人物说话声音则需90元。该商家强调,如果做得不像可以重做。“我们这款服务刚上线不久,大概只有一两个月时间,平时生意不多,清明节生意一下子多了起来,曾经一天就接了一百多单,都是‘复活’亲人的。”

“校友说AI生命”的创始人林志从去年4月开始涉足AI人像模拟训练、声音克隆等业务,是国内较早推出AI复刻产品的团队。他表示,临近清明节,“AI复活”去世亲人的业务愈发火爆,最高的一天有上百个订单,日收入有两三万元。

图片

淘宝上的“复活”亲人产品仍然很多。网络图

他介绍,以前技术不成熟,团队每接一个订单需耗费大量时间,所以收费为1000元至1万元不等。“从去年底开始,就降到一个普惠版本,价格为298元。”对于市面上定价10元以内的“AI复活”商家,林志称这种服务只能让人物的嘴动起来,单次成本低,而他所交付的产品,不仅能够拥有逝者的形象和声音,并且可以实时互动聊天。

随着“AI复活”业务越发火热,乱象也频频出现。今年3月,一段“AI李玟暖心回应粉丝关切”的视频引发关注,在视频中,已故知名歌手李玟以AI形象面对镜头,向粉丝诉说着感谢与鼓励。不仅是李玟,网友还用AI“复活”了高以翔乔任梁等已故艺人。

3月28日,李玟的母亲委托律师就部分网络用户制作、传播“AI复活李玟”相关短视频事宜,公开发布了一则律师声明称:严正警告涉嫌侵权责任人7日内下架、删除含有上述侵权内容的相关图片、视频及文章,立即停止实施相应侵权行为。

4月2日,抖音官方发布的《抖音关于清明期间内容创作的提醒》明确提到:“尊重逝者及其亲友。未经逝者生前同意或逝者家属授权,请勿利用AI或其他技术手段‘复活’逝者。”

“复活已故艺人”被叫停,但上游新闻记者在多个平台上看到,“AI复活亲人”的相关业务仍十分活跃,已经形成产业链。除了电商平台“复活逝者”的相关产品,短视频平台上有许多通过发布视频吸引目标客户的代理商,甚至还有“收徒”传授“AI复活技术”的培训班。

“AI复活”业务受平台限制

今年3月,有多年互联网产品运营经验的重庆90后创业者李灿成立了“硅灵AI数字生命平台”,目前主要团队在成都,自己主要是兼职创业状态。

李灿告诉上游新闻记者,作为创业者,其实自己也有情感上的需要,“我的父母都在2022年去世,给我非常大的打击,刚好那一年的年末Open AI发布了ChatGPT3.5,震撼了我们所有做互联网的人,所以后续一直很关注AI。”

图片

李灿创建的“硅灵数字生命平台。网络图

“2024年,因为有声音训练和克隆的大模型出现,人的声音是可以被备份和复制的,这意味着AI大模型继承人的记忆和性格以及社会关系+声音,被复制组成了一个市场需求方可以接受的方案——AI智能体,需求方则是跟我一样失去亲人很想再次见到他们的人。”李灿说。

李灿介绍,主要的“数字生命”目前就两类,一类是继承人类记忆性格和克隆声音的智能体(对于逝者是“AI复活”,对于生者是AI备份),一类是AI老照片,很多人其实没有双亲或者外婆奶奶的声音,只有一张十多年前的模糊照片,只能将照片视频化。

上游新闻记者在“硅灵AI数字生命平台”上看到,目前“数字生命”的产品售价,根据资料提交比例、声音复刻相似度、人物相似度的不同,从199元到999元不等,而定制开发“专属生命”的价格还要更高。李灿介绍,目前产品主要是网页+H5的形态,已经迭代到第二个版本。

不过,目前的“AI复活逝者”的订单数量已经没有清明时那么火爆。李灿告诉上游新闻记者:“我们在一些新媒体平台做了账号内容,但部分平台对‘AI复活’类业务限制很大,内容几乎都是判定违规,投放类的平台也无法参与关键词的竞价,所以线上获得精准流量还是比较困难。”

在众多用户中,李灿印象最深的是一位祖籍广东目前定居澳大利亚的女士,“她结婚后去了国外,父亲一人留在广东生活,她几乎每隔几天就会打视频,结果端午节前后几天忙没打视频,突然接到警方电话,说她父亲洗澡时猝死,她为自己没有照顾好父亲、走得如此没有尊严而懊悔不已,后来在硅灵平台进行‘复活’后,多少有了一些安慰。”

图片

B站UP主吴伍六用AI技术生成了去世奶奶的虚拟数字人,并和自己开展了对话。网络图

李灿认为,大多数来进行“AI复活亲人”的,似乎都有一种强烈的情绪和遗憾,这种情绪通常是亲人刚离去的几个月内,如果在这个时间段内能得到一些安慰和帮助,也能更好地走出困境,“我在对接这些用户的过程中,发现其实很多人所遇到的情况,比我的情况更要剧烈,有母亲跳楼的,也有孩子去世的,我在安慰他们的过程中,感觉自己扮演了一个‘赛博神父’角色,同时自己也在逐渐释怀。”

上游新闻记者注意到,南京、杭州等地都出现了提供“AI复活逝者”产品的科技公司,不过上游新闻记者也询问了几家国内人工智能团队,他们均表示,出于谨慎考虑一直没有开展这项业务。

科大讯飞虚拟人平台业务部总经理郜静文表示,公司相关团队很早就注意到“AI复活亲人”这一现象,但现阶段不会开放此类业务,因为仍有很多法律的真空地带,以及伦理边界不清晰。

法律界人士:需尽快制定相关法律法规

最近林志逐渐在减少“AI复活逝者”的订单,而是把重心转向复刻在世的人,“数据多,效果也更好。”

比如有的人想复刻还在世的亲人,有客户长年在国外工作,想给自己在国内上学的女儿每个年龄段都做一个版本,认为这可以帮孩子记录成长,还曾有一家湖南的养老院负责人找到林志咨询,想给养老院的老人做AI复刻,认为这可以从一定程度上帮助老年人疗愈。不过,老人家属对此还有疑虑,这个项目也暂时未有推进。

林志认为,如何让当事人特别是老人理解并接受AI复刻这一新生事物,这也给他们的业务带来极大挑战。

此外还有“数字宗祠”,林志表示:“这项服务的咨询量和实际需求的上涨今年格外明显,这是我们没预料到的。”李灿也表示,后续会考虑线下的一些场景,比如墓园,做一些合作尝试,希望得到一些更精准的流量。

随着“AI复活逝者”走进人们生活,争议和讨论也越来越多。新华社相关报道就指出,AI需要处理大量个人敏感数据,如面部表情、语音语调等,数据一旦被滥用或泄露,会对用户隐私造成威胁。并且,AI“复活”技术使用不当,也可能成为犯罪分子实施诈骗等犯罪活动的工具。

上海大学法学院教授陈敬根认为,一方面,要加快AI领域的立法;另一方面,也应该看到,画出底线和红线的“硬法”固然不可缺位,但为了弥补立法的滞后性,在人工智能等新兴领域,当前应提倡设立更多的“软法”,即通过行业协会、团体组织等自发制定的规则,产生集体约束力,由此在法律底线之上起到行业监管的作用。

河南泽槿律师事务所主任付建表示,逝者的肖像、名誉、隐私等仍受法律保护,如果没有经过逝者亲属等许可,擅自使用AI技术“复活”逝者,并通过视频等方式传播确有侵权的嫌疑。如果商家审核不当或恶意泄露,那将承担法律风险,如果买家并非逝者的亲属或拥有合法授权,而商家也未尽到审核义务便利用AI技术为买家提供服务,那么他们的行为构成民事侵权,需承担民事责任。

他也提醒,需尽快制定相关的法律法规,建立一个监管框架,明确产业参与者的权利和义务,包括数据收集、处理、使用和保护的规定,以及对AI模拟亲人的行为和责任的界定,同时建立伦理审查机制,确保“AI复活亲人”产业的发展符合伦理标准,不侵犯人类尊严,不造成社会伤害。

上游新闻记者 汤皓 杨波 部分内容据上海证券报、九派新闻、温州晚报、潇湘晨报等