伪造近7000张学生同事裸照,男子用AI“一键去衣”冲上热搜

6月18日,“男子用AI伪造学生同事近7000张裸照”冲上热搜。
据央视新闻消息,犯罪嫌疑人白某某,原本是一家互联网公司的技术员。他用AI“一键去衣”技术,深度伪造淫秽图片近7000张,再每张1.5元卖出。图片涉及女性人数多,包括学生、教师、同事。目前白某某已被提起公诉。
北京市海淀区人民检察院检察官助理郭树正表示,白某某用的这款人工智能软件,能很快对被害人的图片“一键去衣”,基本上几秒钟、几分钟就能批量生成相应的图片。
图片
但这项技术并不是真的“去衣”,而是一种伪造、重绘的技术。
郭树正表示,“其实我们可以把它理解为深度的图片伪造,它并不是真的去掉别人照片上的衣服,其实都是针对已有的模型和已有的模组进行图片重绘。这项技术操作起来十分简单,去衣只需要一键就能完成,因此白某某定价不高,一张照片只需要1.5元,却可以利用低价吸引更多的订单。”
短短几个月的时间,白某某就制作了几千张去衣的图片,赚了将近一万元钱。然而,他却没有意识到这一行为可能产生的严重后果。
检察机关认为,被告人白某某以牟利为目的,制作、贩卖淫秽物品,情节严重,其行为触犯了《中华人民共和国刑法》的相关规定,应当以制作、贩卖淫秽物品牟利罪追究其刑事责任。此外,白某某利用AI技术犯罪的行为不仅侵犯了无数无辜者的隐私与名誉,还破坏了网络环境的纯净,与科技向善的精神相背离。而利用新技术犯罪,也将受到司法机关的严厉打击。
人工智能技术兴起之后,已经成为当今科技领域备受瞩目的技术之一,正在深刻改变人类社会、经济以及生活方式,但同时任何利用新技术实施犯罪的行为必将受到严惩。
(本文来自第一财经)