“AI复活”:抚慰还是刺痛

◎ 文 《法人》杂志全媒体记者 银昕
从包小柏逝去的女儿,到乔任梁、李玟和高以翔等已故艺人,“AI复活”似乎已经实现商业化,成为一门明码标价的生意。近日,《法人》记者了解到,某公司“复活”一个人收费3999元,制作一段虚拟人的小视频收费一二百元。
图片
▲CFP
然而,随着被“复活”艺人的亲属表示不安和不适,“AI复活”逝者在引发争议的同时,也面临多方面的法律问题。“AI复活”的走红,引发了有关科技伦理的讨论。
“复活”技术远未成熟
“现在的舆情给我们的压力很大,这本来就是一个比较隐秘的圈子,现在更封闭了。”张辽在北京开了一家公司,从事AI复活业务。最近一个月,他明显感觉到了“不妙”:“我们的操作一直很隐秘,只要求客户提供逝者的正面照片和尽可能清晰的讲话录音,制作好就交付,其余一概不说。”张辽告诉记者,“有不少客户非常好奇,希望对技术了解更多,但我们不想让太多人知道具体是怎么实现的。”
记者在某平台搜索发现,大量可以提供“AI复活亲人”的店铺,多数价格在百元以下。
“他们想用较低价格打开市场,实现大规模商用。但懂行的人都知道,虚拟人也好,小视频也好,都只是很粗糙的产品,还原得越逼真、越细节,价钱肯定越高。”张辽对大规模商用并不感冒,“很多问题还没有厘清。在我看来,这个行业很难像前几代技术那样,利用法律法规的滞后实现野蛮生长。”
“目前再高端的产品,也只能做成一个外貌上十分接近真人、语音上极度近似真人,但体态和动作、人格特征等方面仍旧粗糙的初代产品。”洋先生目前供职于一家提供网络营销策划咨询的公司,这家公司主营业务中有“AI翻译视频”,即将原视频中的语言翻译成外语,同时又不改变音色,并且将口型也变成说外语。“一切都是算法,AI翻译视频是算法,AI复活也是算法,这种技术并不算高端,都是有模型的。”洋先生说。
“即便是包小柏复活出来的女儿,也未必有多细节。”洋先生告诉记者,“AI复活”最大的卖点,在于将逝者以近乎百分之百的逼真度还原成一个虚拟人,就如同《流浪地球2》中,刘德华饰演的角色将已故女儿还原。“但是,目前市场上能做的,都缺乏细节,如缺乏人格特征、习惯动作、习惯表情、口头禅等。”在洋先生看来,目前市场上的“AI复活”远不是成熟产品。
记者了解到,目前AI复活公司将服务定位了几个档次:最低档次仅输出10秒左右的小视频;稍微精细点,可以输出20秒;高级版则能输出25秒到55秒。真正能够输出虚拟人,以达到陪伴目的的项目,是最高档。不过,不同档位的差异,只是对面部表情的训练量不同所造成。高级版需要进行两万次面部表情的训练,而虚拟人则需要训练近百万次。
通过多方了解,没有一家公司敢向记者打包票,保证“一举一动都能很像”,而是声称除面部表情外,“只有手部和肩膀的简单动作”。也就是说,只是一张正脸在与用户对话,无法做出其他大幅度动作,也没有下半身。
值得注意的是,一部分从事“AI复活”业务的公司,将自己命名为“XX永生”,如“数字永生”“AI永生”等,是在偷换源自国外的“永生”概念。所谓“永生”,是将逝者的意识从大脑中提取出来,转换为数字形式,存入类似于服务器的盒子中。如果将这段数据在电脑中打开,它能逼真地还原逝者的一举一动,真正做到“躯壳已死,意识永生”。
但国内名为“XX永生”的这类公司,远没有掌握这种技术。“说他们是山寨都算客气的,现在这种所谓的‘永生’,根本就是赝品。”张辽说。
死者肖像权归谁?
复活逝者的需求,不止于家人,还有粉丝。
不久前,李玟、高以翔和乔任梁3位已故艺人的虚拟人被粉丝制作出来,高以翔的家人、乔任梁的父亲纷纷表示不希望逝者肖像被随意使用,不能接受此举。
仅以十分粗糙的产品之资,就在娱乐圈有了被滥用的趋势。
“关于虚拟数字人,何炅诉上海自古红蓝人工智能科技有限公司案,就是一个经典的指导性案例。”近日,中国政法大学传播法研究中心副主任朱巍对记者表示。
上海某人工智能科技公司在“叨叨记账”中,大量使用主持人何炅的“肖像表情包”和附加何炅人格利益的姓名,同时虚拟何炅人设,以何炅口吻向下载用户直接推送并非何炅本意的“撩人情话”。这些操作都不是在何炅本人的授权下进行的,于是何炅将该公司起诉。
法院认为,“叨叨记账”通过创设虚拟的AI角色,将自然人的姓名、肖像、人格特点等综合而成的整体形象投射到AI角色上,并且让用户可以与AI角色设置一定的虚拟身份关系,这是对原告整体形象和人格表征的利用,属于原告人格自由利益的范畴,肖像权、姓名权的人格利益无法完整涵盖案涉软件涉及的人格利益。此外,案涉软件的功能使得AI角色可以与真实自然人高度关联,容易让用户产生一种与原告真实互动的情感体验。“叨叨记账”还提供了用户与原告建立亲密关系的功能,允许用户任意设置与AI角色之间相互的称呼,在互动页面中还设置了“爱你”“抱抱”等对话标签。上述功能设置不仅属于原告自由决定其人格要素如何被使用的范畴,还涉及原告人格尊严被尊重的利益。
最终,法院认定被告公司构成侵害原告一般人格权的行为。
活人可以维护自己的人格权,那逝去的人呢?
“民法典人格权编中明确规定,死者也有人格利益,肖像权属于人格权中的一种。死者人格利益的权利人是父母、配偶及子女,如果这三者都不在了,应归其他近亲属。没有得到权利人的授权同意而使用死者的肖像、声音,属于侵权行为。”朱巍说。
鉴于“AI复活”的终极目标,是将死者的一举一动、一颦一笑尽可能逼真地还原出来,被侵犯的权益和权利,似乎远远大于肖像权和声音权益这两项。“目前的法律框架中,人格权包含名誉权、姓名权、肖像权和声音权益等,并没有动作权、表情权、性格权、习惯权这样的说法,但这些权利在虚拟数字人中都涉及了。”北京市中闻律师事务所律师赵虎认为,新的技术和产品的确有可能带来现行法律解决不了的问题,但至少在“AI复活”此类事件中,被侵犯的权利包括了肖像权和声音权益。“只要包括,现行法律就适用。”赵虎说。
活人被“复活”引发担忧
何炅一案表明,不只逝者会被“复活”,活人也可能被“复活”。
人还活着,却被“复活”了,有时用于“陪伴”,也可能有并非出于善意的用途,“AI复活”技术引发了人们的担忧。
“如果一个人瞒着我,把我‘复活’了,不论因为喜欢我,还是出于其他恶意的想法,我都会觉得怪怪的。”小玲是一名美术生,看到“AI复活”的一系列新闻后,她有了一丝隐忧:在网络时代,很容易从社交媒体上搜到她的照片,用录音笔录一段她的讲话也绝非难事。“会不会有人瞒着我,把我给‘复活’了?”小玲恨不得赶紧把社交媒体上的照片全删掉,以绝后患。
根据《生成式人工智能服务管理暂行办法》,生成式人工智能训练内容涉及个人信息的,应当取得个人同意。然而,不排除有人做得很隐蔽,当事人始终不知情。
以小玲举例,如果有人“复活”了一个她,在与“数字小玲”互动的过程中,说出一些不礼貌不尊重甚至做出猥亵侮辱的行为,小玲能否以有人侮辱了“数字小玲”而主张自己的人格权?
目前这一问题尚未有标准答案。一种观点是只要足够隐私和隐蔽,就不会触犯法律。
另一种观点认为,此种情况符合《生成式人工智能服务管理暂行办法》中涉及个人信息的规定,即训练内容涉及个人信息的,应当取得个人同意或者符合法律、行政法规规定的其他情形。朱巍对记者表示:“以前有很多追星族在家里挂偶像照片和海报,大多数情况都不违法,因为这些照片是公开发表的,追星族对这些照片和海报的使用没有超过著作权法规定的‘艺术欣赏’。但是,‘AI复活’的虚拟人不属于公开发表,而是根据个人肖像、声音等信息生成,应该获得本人授权。”
编审|渠 洋
责编|惠宁宁
校对|张 波 张雪慧
来源|《法人》杂志2024年04月总第242期