仅凭几张照片，任何人都可能成为受害者。
6月18日，“男子用AI伪造学生同事近7000张裸照”的消息引发关注。
北京警方侦破一起案件：犯罪嫌疑人白某某，原本是一家互联网公司的技术员。
他用AI“一键去衣”技术，深度伪造淫秽图片近7000张，再每张1.5元卖出。目前，白某某已被检察机关提起公诉。
橙柿互动了解到，白某某用的这款人工智能软件，能很快对被害人的图片“一键去衣”，几秒钟、几分钟能批量生成相应的图片。
图片涉及女性人数多，包括学生、教师、同事。类似这样的案件，杭州执法部门也介入过。
小区里有人AI技术传播淫秽图片
前不久，北京警方接到报案，在海淀区某小区内，有人利用AI技术，传播淫秽图片。
很快，24岁的犯罪嫌疑人白某被警方抓获，是一家互联网公司技术员。
据调查，白某某用一款人工智能软件，能很快对被害人的图片“一键去衣”。
一键去衣，白某是怎么做到的？
生成这些淫秽图片，对于白某来说非常简单，他只需要一张女性日常图片，几秒钟就可以完成所谓的“一键去衣”。
白某某还在网上发布广告帖， “电脑AI去衣，白菜价”“身边人、网红、明星皆可”。
他以此为兼职，开始赚起了外快，每张照片仅售1.5元，通过网络向351个人贩卖过相关图片，图片数量将近7000张。
日复一日地合成图片，白某这种行为的后果也逐渐显现，意识到情形不对，白某开始有些害怕。
接到报警后，警方抓获了白某某。
这些经过去衣的照片的受害者都是什么人？
据警方调查，白某某的广告发布后，有不少人联系他，给他发送身边同事、学生、网红、明星”照片，购买这项“去衣”服务。
近日，北京市海淀区检察院对白某，以传播淫秽物品牟利罪提起公诉。
同时考虑到白某制作的数千张图片，已经侵犯到不特定人的权益，检方对白某同时提起了公益诉讼。
“只要能看到脸的都能换”
小伙建2000人“女神群”私人订制
类似这样的案件，杭州的检察机关和法院也介入过。
“请把我暗恋的女生换上”……女明星和邻家小妹的美脸，居然和不可描述视频主角高度一致！
男子俞某私下里建了一个“女神群”，名为“女神群”，群成员都是一群大老爷们。每天都不停地有人入群，但除了群主虞某外，很少有人发言。
据检察机关调查，早在2020年，“AI换脸”刚刚在国外兴起的时候，虞某就对它产生了兴趣，自学掌握了这门技术。
后来随着“AI换脸”技术的走红，让虞某嗅到了商机。
虞某先是将原本建的“换脸软件资源群”的群名更改为“女神试看群”，后又通过互联网下载了部分淫秽视频，吸引、招揽观看者加入。群成员多达2000多人。
发送的淫秽视频，有不少是由虞某使用“AI换脸技术”合成的。根据顾客的需要，还可以使用不同的女明星的形象，进行“私人定制”。
经警方查实，几位人气女明星成了虞某“AI换脸”淫秽视频的“重灾区”。
“私人定制”换脸的对象，不仅包括明星，也有生活中的普通人。有人提出想要定制自己暗恋女生的换脸视频，虞某也是来者不拒。
不到半年的时间里，虞某获利数万元，他声称，“只要能看到脸的都能换”。
检察机关依法以制作、传播淫秽物品牟利罪对虞某提起公诉。法院判处虞某有期徒刑七年三个月，
在依法追究其刑事责任外，检察机关同时还提起民事公益诉讼。
杭州互联网法院对这起公益诉讼案进行审理，这也是我国首例关于“AI换脸”侵犯公民个人信息公益诉讼案的审理判决。
杭州互联网法院经审理认为，判令被告虞某删除非法获取的个人信息，公开赔礼道歉、消除影响并赔偿损失共60000元，这些款项将专门用于个人信息保护、人脸深度合成技术不当应用的治理等公益事项。
剖析AI人脸合成技术
AI炮制艳照，男子被骗20多万元
AI深度合成技术，是指利用以深度学习、虚拟现实为代表的生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术，包括人脸生成、人脸替换、人脸操控等图像、视频内容中人脸等生物特征进行生成或者编辑的技术。
杭州司法界人士科普，“换脸”等深度合成技术，需要获取大量人脸图像中的特征数据信息，包括五官、表情等内容。
而人脸信息，属于个人信息保护法予以特殊保护的生物识别信息，“人脸信息与个人的隐私权、名誉权、财产权等多种权益关系紧密，属于敏感个人信息。
“从司法实践来看，人脸信息的不正当使用将对社会公众的人身和财产安全带来重大风险，一旦造成侵害往往是长久的、持续的、难以弥补的。”
办理虞某一案的检察官指出，近年来，利用“AI诈骗”技术制作换脸视频，绕过人脸识别系统监管从而实施诈骗、盗窃等犯罪的情形时有发生。
可以说，“AI诈骗”技术在灰色领域甚至违法犯罪领域的滥用，给社会公众带来了极大危害。
威海警方接到反诈中心的一条资金预警信息，有市民正在向涉诈账户进行转账，民警立即与当事人取得联系，核实情况。
被害人王先生的手机收到一条短信图片，是一男一女的裸照。还附了留言，说“我有你全部的影像资料，赶紧跟我联系”，并附上了一个电话。
王先生当时看到这张照片，当时就有点蒙。没有来得及多想，他拨打了信息上面的电话。
对方准确地说出了王先生的姓名以及工作单位，并告诉他只要转账68万元就可买断这些视频，如果不给钱就把视频公开。
在对方恐吓下，王先生信以为真，先后转账了20万元，可根本满足不了对方的胃口。
民警发现蹊跷，照片的男子脸部和王先生有相似地方，但是身形完全不是他本人。
之后，民警立刻通过国家反诈大数据，对王先生转账的两个银行账户进行紧急止付操作。
今年1月22日，警方将两名犯罪嫌疑人抓获归案，为王先生挽回了损失。
个人信息安全关系每一个人的生活幸福感、安全感，那么对于个人来说，应该如何做好日常的个人信息安全保护呢？
司法界人士建议，第一，不登陆来路不明的网站，以免被窃取个人信息。
第二，做好个人电子设备的安全管理，加强对人脸、声纹、指纹等生物特征数据的安全防护。
第三，做好授权管理，对手机App获取短信、电话、通讯录、启用录音、启用摄像等权限保持敏感，预防随意授权造成的后台隐私泄露。
来源：橙柿互动