苹果将推出的“儿童保护”功能,为何会引发争议

自1959年的《儿童权利宣言》到1989年《儿童权利公约》在联合国大会上被批准以来,在二战后的人类现代化进程中,对于儿童的保护也成为了共识。但随着近年来通过互联网侵犯儿童权利的现象不时出现,日前苹果方面宣布,将与专业组织合作推出全新的儿童安全功能。
图片
8月7日,苹果在官网正式发布“扩大儿童保护”公告,宣布将在iOS 15、iPadOS 15,以及macOS Monterey系统中,推出3项新功能为儿童提供更好的保护措施,分别为Messages通信安全、Siri搜索拓展以及iCloud照片检测。
然而,苹果的善意之举却在海外一石激起千层浪,相当多人肯定了这一举动的初衷,但对具体做法持反对意见,更有超过4000余家组织和个人联署公开信,敦促其放弃“儿童安全”功能。这封由安全专家、密码学家、法律界人士和普通消费者等共同发起的联名信,谴责苹果这项新技术侵犯个人隐私,其中既有爱德华·斯诺登这样的名人,也有此前为苹果加密和隐私政策摇旗呐喊的电子前沿基金会(EFF),以及社交软件WhatsApp的CEOWill Cathcart,以及Epic Games CEO Sweeney。
图片
那么,苹果宣布即将推出的这项功能,到底如何触动了这些人的神经呢?具体来说,引发争议的是其中iCloud照片检测功能。据悉,苹果计划根据美国国家失踪和受剥削儿童中心(NCMEC)资料库中已知的信息,来扫描用户的iCloud照片库,以寻找匹配的内容和儿童信息,以帮助加强对儿童安全和隐私的保护。
也就是说,苹果方面将利用iPhone、iPad、Mac的机器学习能力,扫描上传到iCloud的照片,此后与美国NCMEC提供的数据库进行对比,一旦系统检测发现匹配的图片达到阈值就会开启人工干预,并向相关机构发出警报。
当然,苹果肯定不是直接在云端扫描用户iCloud里的图片信息,而是利用A系列、M1处理器的AI算力在本地进行检测。并且苹果方面也不会直接查看用户的相册内容,而是使用一种名为“NeuralHash”的加密技术,在确保相同且视觉上相似的图像具有相同哈希值的基础上,将NCMEC的数据库以及用户设备上的图片分别提取出一组“哈希值”来进行比对。
图片
据悉,这一匹配过程将由“私有集交集”(PSI)加密技术提供支持,而PSI技术则是雾计算的成果。作为云计算的延伸,雾计算的数据集中在网络边缘的设备中,而非性能强大的服务器集群,这就给了苹果让“iCloud照片检测”运行在用户本地的基础。同时,PSI计算允许两方实体,也就是NCMEC资料库与用户iCloud中的照片在不泄露除交集结果以外其他信息的前提下,计算出双方实体的集合交集。
此外,为进一步提高用户的接受程度,“iCloud照片检测”为使用NeuralHash的比对结果设计了“阈值秘钥分享”,只有比对结果超出临界值,设备才会自动回报,并授权给苹果浏览内容的权限,下一步才是进入人工审查以确认是否有违法事件,确认才会通报给NCMEC。苹果方面对此宣称,这一阈值拥有极高的准确度,可确保每年错误标记账户的概率低于万亿分之一。
图片
从苹果无法看到用户具体的iCloud照片、而是只能看到一组哈希值,到检测是在用户本地设备而不是在云端进行,再到准确性极高的阈值设定以避免殃及无辜,这一套设计看上去可谓是滴水不漏,既实现了保护儿童的目标,又在一定程度上降低了用户的抵触心理。
那么为什么从电子前沿基金会到斯诺登,以及一些网络安全专家不买账呢?尽管此次联署反对苹果儿童保护新政策的组织和个人高达4000多,但他们愿意签名的原因显然并不完全一致。
图片
普通消费者反对,源自于儿童保护在某种意义上来说是苹果对于过往政策的“背叛”。在过去的数年间,安全与隐私是苹果营销体系的一张王牌,甚至在2019年CES展上,“无论iPhone上发生什么事,只有iPhone知”的广告牌曾让未参展的苹果大出风头,并且此后的“Sign In With Apple”和“应用跟踪透明度”等功能,都向外界营造了一个对于用户隐私极端重视的企业形象。更别提2015年苹果顶着“FBI WARning”,拒绝交出恐怖分子手机的解锁方式,只为保护用户隐私。
可到了2021年却开始检测用户的iCloud相册,看起来像是苹果对于自己一直高举隐私大旗的背叛。其实,斯诺登的意见或许能够反应许多美国人的想法,“无论意图有多好,苹果都在通过这种方式向全球输出大规模监控。别搞错了,如果他们今天可以扫描儿童相关内容,那么明天就可以扫描任何东西。他们毫无征兆地将价值1万亿美元的设备,变成了监控设施。”
图片
而至于电子前沿基金会及网络安全专家,则或许是出于技术方面的考量,因为他们认为苹果此举是有计划地破坏端到端加密机制。一直以来,苹果都是端到端加密最坚定的支持者之一,此前iCloud与iMessage中的内容也几乎从不关心。
所谓端到端加密,是指数据在发送端被加密、在接收端解密,中间节点处则不以明文的形式出现,任何通信链路的错误都不会影响整体数据的安全性,这一特点也使得其具备极高的私密性。但在“儿童保护”功能下,所有上传到iCloud的照片和同步的照片均不是端到端的加密存储,虽然照片将以加密的形式存储在苹果的服务器中,但解密的密钥也是由苹果所拥有。
图片
“如果一个系统有直接、有效解密很大一部分信息的能力,它就不再是一个端到端加密的系统了”,在电子前沿基金看来,一旦“儿童保护”功能落地,苹果的端到端加密就将形同虚设。其所担心的是苹果转变了对于隐私和安全的方向,而作为全球有数的科技巨头,这一对于端到端加密态度的变化,则可能将会引发连锁反应。
图片
而密码学专家则认为,苹果利用哈希值来判断的做法存在瑕疵。因为在密码学的角度,裁剪、调整色相、灰度,或者哪怕图片被修改几个像素点,哈希值就会完全不同。但苹果NeuralHash技术的思路,则是只要图片特征相同则“哈希值”相同,也就是说如果iPhone里的图片不慎与NCMEC数据库的图片撞车,那么你就可能被列入这一名单。
图片
因此在普通消费者看来是苹果放弃了隐私承诺、网络安全专家担忧端到端加密被破坏、密码学专家认为这一技术并不完美等情况下,导致“儿童保护”这个苹果出于善意将推出的功能,在网络上引发了山呼海啸般的声浪。
当然,外界的反对或许并不会干扰到苹果。其软件副总裁塞巴斯蒂安 · 马里诺 · 梅斯在备忘录中表示,“我们今天看到了许多积极的反应,我们知道有些人有误解,也有不少人担心其影响,但我们将继续解释并详细说明这些功能,以便人们了解我们所建立的机制。”
图片
苹果公司希望推进“儿童保护”功能来赢得家长的青睐,反对者却希望保持现状的情况下,关于“儿童保护”的纠葛,也已经注定要比“应用跟踪透明度”更考验苹果的耐心和操作方式了。