公安部门高度关注AI换脸换声诈骗 反制技术受关注

近期利用AI技术进行犯罪的案件时有发生。公安部门表示,近期网上“AI换脸换声诈骗在全国爆发”传言不实,全国此类案件发生不到10起,但该动向值得高度关注。网上一键换脸功能的App、小程序有技术滥用风险,需要加强技术防范反制等工作工业和信息化部相关负责人表示,随着AI技术的不断发展,通过少量图片、音频信息合成特定视频,利用人工智能模型批量设计诈骗脚本等成为可能,客观上降低了电信网络诈骗的实施难度,AI类新型犯罪爆发可能性进一步提升。业内人士建议,要加强AI反制技术研究,“以AI制AI”。一些科技公司正加强对图像、声音伪造技术的反制研究,在公安、金融的视频认证场景已有应用。

此前,民生证券指出,国内云计算和AI等前沿技术监管有望进一步加强,建议重点关注通过微软AEMSP认证,公有云运维及安全龙头云赛智联;构建数据监测与梳理核心能力的网络可视化相关厂商浩瀚深度、中新赛克、恒为科技、迪普科技等;对标Palantir的电子取证及数据溯源龙头美亚柏科。

国盛证券认为,在人工智能带来巨大想象空间的同时,安全问题值得进一步关注,看好大模型及AI安全行业的发展潜力。大模型:360、科大讯飞、云从科技、昆仑万维。外部审核:电科网安、人民网、安恒信息、奇安信、深信服、美亚柏科、启明星辰、格尔软件。