近日，广州一名正常打扮的女子，在社交平台晒了一张再日常不过的照片，竟被人用AI技术将脸和身体“移花接木”，直接生成了一张地铁裸照。此事引发广泛关注，不少网民怒斥：“科技不应该用在这上面！”
“一键脱衣”造黄谣，这是利用AI技术作恶，明显越过了道德和法律边界，对当事人造成极大伤害。目前当事人已在评论区回复称，会进行维权处理。
▲相关截图 图源网络
和“AI脱衣”相似，还有近年来走红网络的“AI换脸”。一些“AI换脸”的App使用明星的图片制作换脸视频进行推广，其趣味性背后暗藏了不少法律风险和侵权纠纷。
明星刘昊然就曾在2021年8月26日发博打假，控诉网上流传的某淫秽视频为AI换脸技术伪造，并向警方报案。
▲相关截图 图源网络
对于“AI换脸换装”技术，网友纷纷指责：“难道掌握了这门技术就可以随意换脸吗？简直细思极恐”“科技不应该用在这上面”。试想，如果这方面技术应用没有限制边界，普通人或公众人物的肖像都可随意变换伪造，公共秩序将会受到怎样的冲击？
▲网友评论截图 图源网络
技术本身并没有善恶之分，但是一旦有人恶意地使用技术，就可能造成非常可怕的后果。一般来说， AI换脸是基于人脸图像识别的深度伪造技术，应用时很容易存在侵害肖像权风险。在女子被AI“一键脱衣”事件中，造谣者还可能涉嫌诽谤罪、侮辱罪、制作淫秽物品牟利罪等刑法罪名。
《民法典》第一千零一十九条明确规定，任何组织或个人不得利用信息技术手段伪造等方式侵害他人的肖像权；未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，法律另有规定的除外。
《网络安全法》第二十七条特别强调，明知他人实施危害网络安全活动的，不能够为他提供技术支持。如果情节严重，还会构成帮助信息网络犯罪活动罪等刑事犯罪。
今年1月，国家网信办等部门联合制定的《互联网信息服务深度合成管理规定》（下称“规定”）正式施行，就给此类AI合成技术划下红线：“任何组织和个人不得利用AI换脸技术等深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息；不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。”
▲《互联网信息服务深度合成管理规定》节选
同时，《规定》也指出，网信部门和电信主管部门、公安部门等监管部门，需要加强监督检查、技术治理，对不当使用AI合成技术的机构和人员，按照有关法律、行政法规采取措施，进行整改；造成严重后果的，依法从重处罚。
北京航空航天大学法学院副教授、北京科技创新中心研究基地副主任赵精武所表示，要遏制AI合成的乱象，得政府监管部门、平台、网民多方形成合力，多管齐下，一个都不能少。
比如，AI合成平台必须要求内容创作者实名认证，监督创作者标明“这是由AI合成”之类的标识，以免误导公众；在提供“换脸”技术前，应该征得“被换脸”者的同意；并完善数据管理、保障个人信息安全。
被“AI造谣”后如何维权？赵精武称，首先可以直接要求侵权人删除相关谣言信息并赔礼道歉；其次，可以留存谣言证据，经由公证机关公证之后作为证据材料，向侵权人提起侵权诉讼。
▷信息来源：“湖北日报”官微、“侠客岛”官微