近日，在多个网络平台都出现了一则“女子去夜场工作帮男友还债，全年无休，被抛弃后哭得撕心裂肺”的自述文章，引发了网友的热议，有大骂渣男者，也有替女子感到惋惜的。然而令人疑惑的是，在不同的网络平台，该女子的名字以及所在地却都各不相同。这一情况不禁让人产生了疑问，这究竟是怎么一回事呢？经过大象新闻记者的深入调查，发现这则自述文章实际上是由AI生成的虚构故事。
多篇“夜场女子全年无休为男友还债后被弃”的文章引发关注
网友发布的文章中提到，痴情女子为了帮男友还债去夜场工作，月月全勤不敢请假，帮男朋友摆脱债务后却被抛弃。配图为一位女子坐在地上哭泣。但是，事情发生的时间、地点等信息，文章中并没有提到。
在网上，有数十条相似的文章，文章中的女子有时是河南人，有时是山东人，有时是上海人，发生该事件的时间也不一样。随后，记者通过图片识别找到了该图片所对应的视频，这一版视频中，女子坐在地上放声大哭，还配有“美女老板遇见吃霸王餐的”一行文字。
记者搜索发现，“女子坐在地上大哭”的视频，早在2022年就已经发出，但记者并未找到该视频的最初发布者。
记者联系到其中一位发布相关文章的网友，该网友表示，文章为“AI生成的”，并不知道真假。而在另一网友的社交平台账号中，记者看到，该网友平均每天发布文章近10条，文章类型包含情感、社会、军事、科技等，该网友表示，文章大多为AI生成，也有一些是从网上搬来的，其目的是想把发文章当作副业，赚取稿费。
律师：利用AI混淆视听，可能加剧社会信任危机
所谓AI，即人工智能，通过关键词或关键句，可以生成用户需要的文字、视频等。随着AI短时间内迅速蹿红，有人利用其蹭热度、混淆视听，甚至实施违法犯罪行为……当然，这一行为，已经让一些网友受到了相应的惩罚。
据媒体公开报道，刘某某将实际发生在外省某地已被处理的校园霸凌事件进行相关事件图片截取，利用AI小程序自动编辑功能，嫁接为发生在德阳某学校的校园霸凌虚假信息，生成题为《12岁女生被8人轮流扇耳光3小时，致耳膜穿孔》的文章在网上发布，引发大量网民关注，对社会秩序、校园治理造成严重的负面影响，德阳警方已依法对其作出相应处罚。
江西公安机关查处一起MCN机构使用人工智能工具造谣案，该平台发布“某市2024年1月10日发生爆炸导致建筑、车辆炸毁、人员伤亡”“某公司的转基因试验证实转基因玉米致1000只小白鼠全部死亡”等多条谣言信息。目前，已对涉案人处以行政拘留5日，责令涉案MCN机构停业整改。
对此，北京市盈科（郑州）律师事务所陈焕律师表示，利用AI技术编造虚假事实、生成虚假图文音视频等，将会颠覆广大网民“有图有真相”的辨认常识，让网络谣言更加难分真伪，这也在无形中加剧了社会的信任危机。
陈焕介绍，从目前的法律规定来讲，《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国消费者权益保护法》《中华人民共和国反不正当竞争法》《中华人民共和国刑法》对AI的发展和应用均有规制，特别是《关于依法惩治网络暴力违法犯罪的指导意见》明确规定，利用“深度合成”等生成式人工智能技术发布违法信息从重处罚。“也就是说，利用AI生成虚假信息和拍脑袋编造谣言发布传播，没有本质区别，都将可能被追究刑事责任。”