远程开门,换脸换声?AI时代 如何保障安全?

央视网消息:网络安全,事关生产生活多个方面,近年来备受瞩目的人工智能技术为人们带来诸多便利的同时,也为网络安全带来了许多新的挑战。
一个漏洞就可能成为黑客的“钥匙”
如今,无人驾驶不再是科幻小说里的场景,在我国多地已经变为现实。不过,如果一辆智能汽车遭受网络攻击会有什么后果呢?网络安全专家为我们模拟了这一场景。
图片
网络安全专家邓钦洋:黑客通过网络入侵到我们车辆之后,进而进行横向移动,对零部件的相关漏洞进行利用。现在就是用户正在正常驾驶车辆,然后我这里就可以模拟黑客对我们的车门(系统)进行远程的攻击,实现远程开门的一个操作,现在就是我们系统检测到了行车过程中(遭到)远程开门的一个指令,那么在真实的驾驶过程中,我们的车门被打开是非常危险的事情。
图片
专家介绍,如果安全漏洞只是针对应用层面的话,造成的威胁局限于个体。然而,如果黑客针对驾驶、通信等底层系统进行攻击的话,所带来的破坏性则会更加广泛。
筑牢“安全底座” 系好网络“安全带”
数据显示,2023年,针对国内车联网服务平台等的攻击达805万次,同比增长25.5%。筑牢智能网联汽车的“安全底座”已是刻不容缓。对此,我国已出台了多项相关法规,并发布实施了多项车端安全标准和十余项平台安全标准。
AI时代如何保障安全·辨别真伪
除了无人驾驶领域,许多不法分子还利用AI进行换脸、换声等操作,侵害公民个人隐私。一张“人像照片”、一段近距离的人物视频都有可能成为犯罪分子的新工具。
"换脸"伪造不雅照不法分子敲诈勒索
前不久,深圳的吴先生突然收到一个陌生手机号码发来的彩信,点开一看竟然是他和一名陌生女子在酒店房间内的不雅照片。
当事人吴先生:他当时威胁我,在几点之前要跟他联系给他转钱,我当时一想不对劲,就报警了。
警方接到报案后,立即进行侦查。通过梳理报案记录,警方发现有同样遭遇的不止吴先生一人。随着调查的深入,警方发现这是一个分工明确的犯罪团伙。有人负责修图,有人负责寻找目标,有人负责敲诈勒索。随后,警方展开统一收网行动,成功抓获以王某为首的10多名犯罪嫌疑人。
广东省深圳市公安局坪山分局民警张威:从嫌疑人电脑里面提取的相关证据,这些图片是嫌疑人从网上等各种渠道收集的被害人图片信息,然后他们进行合成处理,这就是嫌疑人合成的不雅照片,用来敲诈被害人。
只需一张照片就能以假乱真
图片
那么这些伪造的照片是如何做到以假乱真的呢?网络安全专家为我们演示了“AI换脸”技术,仅需一张目标人物的静态照片,就能让照片中的人物动起来。
中国网络空间安全协会人工智能安全治理专业委员会委员张博:本身最右边是一张不会动的静态图片,那么通过我们的(演示者)他做一些动作之后,那么它(AI换脸软件)采集到了(演示者)面部动起来的特征,把这个特征融合到一个静态图片当中,就让这个图片照着我们(演示者)的动作动了起来。当前,AI换脸技术还是比较成熟,也能支持视频通话的实时换脸,如果再结合着换背景环境,换声音等等,那样逼真度就会更高,更加难以分辨。
加快相关反制技术的开发和应用
针对“AI换脸”等技术被滥用,日前,全国网络安全标准化技术委员会发布《人工智能安全治理框架》1.0版,提出相应技术应对和综合防治措施,以及人工智能安全开发应用指引。对此,网络安全专家建议应加快相关反制技术的开发和应用,用AI来治理AI。
AI时代如何保障安全·个人隐私
防范AI带来的威胁,除了在技术方面升级努力,我们普通人在日常生活中又该注意些什么呢?
避免人脸指纹等信息过度公开
专家介绍,导致AI换脸等违法行为的最关键原因是个人隐私信息的泄露,因此,我们在日常上网过程中,要尽量避免人脸、指纹等个人生物信息的过度公开和分享。如果接到貌似“家人”“领导”等转账、汇款的视频,一定要用心甄别。
此外专家提示,以下这几种照片千万不要随便发在网上。
第一,不要公布手持身份证或手持白纸照,这些照片中会包含个人姓名、身份证号码、住址等敏感信息。
第二,不要发布各种票据类的照片,很多人出差、旅游都喜欢拍火车票或飞机登机牌,发到自己的朋友圈分享。这些票据上不仅会包含姓名、出发地、目的地等信息,而且在条纹码或者二维码中也会含有乘客的个人信息,存在被不法分子破解并窃取的可能。
第三,不要晒家门钥匙、车牌等照片,不法者通过大数据等技术手段,通过这些照片会分析出发布者特定时间所处的特定位置,也会获取发布者相关的生活习惯。