“双面”人脸识别:能“认”出整容的劳荣枝,也让大众成为透明人

“人脸识别在最近三四年有泛滥成灾的趋势,有些场合的必要性存在问题。”在9月17日搜狐科技主办的《中国创新公司100》第三期沙龙上,清华大学法学院长聘教授劳东燕表示,我们大大低估了人脸识别的风险。

《中国创新公司100》是搜狐科技今年重磅打造的一档栏目,主要聚焦5G、AI、芯片、制造、出行、零售、社交等领域内的技术创新和商业模式创新,对相关行业以及优质创新公司进行深度价值挖掘。

目前,处于第三波浪潮的AI正在迎来加速发展,AI技术不断突破,进入应用规模爆发的临界点。不久前,搜狐科技发布了计算机视觉榜单,发现榜单上所有企业都有布局人脸识别。作为人工智能领域发展最为成熟、应用最为广发的技术之一,人脸识别在最近几年野蛮生长,引发越来越多的关注和讨论。

在此期沙龙上,作为曾经反对人脸识别进小区,并用实际行动维护自身权益的劳东燕,和北京邮电大学人工智能学院教授邓伟洪,汉王科技副总裁、汉王研究院院长黄磊就人脸识别的滥用和规范发展问题进行了精彩的分享。

在劳东燕看来,不合法、不正当或不必要的使用,就是滥用。她认为,必要性意味着,没有人脸识别之外其他更为缓和的手段实现相同的目的,利弊需要在全面考虑风险的情况下进行综合衡量。黄磊则表示,必要性跟技术成熟度和应用的真实场景息息相关,当利大于弊,相对来说是必要的。

邓伟洪认为,在深度学习推动和无接触特性下,人脸识别迎来快速应用,给我们带来一些便利和安全,但目前关键是要规范它的发展。这需要法律、行业、技术、个人等多方面的合力。

劳东燕认为,应该形成人脸识别领域的法律规范框架,在前端严格限制适用场景,同时企业需做好合规工作。邓伟洪表示,可以发展隐私计算、脱敏和加密技术等来保障个人信息和数据安全。

黄磊则给出了人脸识别企业在商业化当中应该遵循的原则,比如公平性、非歧视性、透明性、知情权等。他还建议,应该对人脸识别企业进行技术产品的入门规范,在数据获取上遵循最小化原则,在数据管理上也应该形成统一框架。

人脸识别“泛滥成灾”,技术、资本是推手

随着人脸识别技术的快速发展,一个“刷脸的时代”似乎已经到来。在黄磊看来,人脸识别应该是人工智能里面技术成熟度离应用最接近的分支技术。

邓伟洪表示,人脸识别能够快速发展的原因,首先得益于技术上的性能突破,深度学习这种基于数据驱动的算法使得人脸识别的准确率已经超过人眼。同时,普及的摄像头传感器,且人脸识别完全无接触的特性,使得其应用起来比较方便。

北京邮电大学人工智能学院教授邓伟洪

黄磊提到,最近几年大量资金,包括人才,都涌向人脸识别领域,推动了这个领域的蓬勃发展。他认为,应用和技术是逐步互动的,通过技术来推动应用,在应用的过程中发现问题,然后又去攻关解决,从而带来新的更广泛的应用。这两者的不断互动,也推动人脸识别成为人工智能领域发展的排头兵。

目前,在大多数场景下,人脸识别已经能够胜任,包括汉王科技等在内的多家AI企业都宣称,人脸识别的准确率达到了99.9%。这也是人脸识别能够迎来规模应用的基础,从银行APP等各类应用,到社区、商场、餐厅,甚至售楼处、动物园、卫生间等,我们的脸都随时暴露在各种摄像头之下。

对于人脸识别的发展,劳东燕则用“泛滥成灾”来形容。她表示,这背后有多重因素推动,其中企业是最积极的力量,背后有产业界资本的推动,企业有套现上市的动力,社会管理尤其是疫情防控的需要也推动加快了人脸识别的普及应用。此外,大大低估人脸识别带来的风险,也使得其在推广的过程中遇到的阻力很小,不仅是舆论阻力小,在法律层面遇到的挑战也比较小。

不过,人脸识别目前依旧存在一些技术局限。邓伟洪表示,目前静态识别的技术难点并不太多,现在主要难点在于安防应用,比如说用人脸识别寻找被拐卖了二三十年的小孩。此外,跨姿态识别,公平性识别,都是还需要克服的难点。

黄磊提到,现在口罩识别、遮挡识别等原有的瓶颈,今年取得了非常大的进步,汉王科技就把戴口罩的人脸识别准确率从疫情前的20%-30%提升到了90%以上。人脸识别企业目前在攻关的问题则是活体判断,其已从二维上升到三维,这个技术的解决难度要更高。

必要性存争议,要安全还是要便利?

不过,当技术应用跑在监管前面,必然会带来或多或少的风险。从上世纪诞生的汽车,到如今我们离不开的互联网,以及包括人脸识别等在内的人工智能,莫不是如此。

进动物园引发的“人脸识别第一案”,315曝光的商家违规采集人脸信息,2块钱就能买到上千张人脸的AI黑产,房产中介欺骗业务刷脸卖房……这些无不暴露了人脸识别野蛮生长背后的个人信息和数据泄露的巨大风险,安全与便利似乎成为难以两全的问题。

劳东燕提到,目前对滥用还没有明确的界定,只能在特定场景当中讨论,而从法律的层面来讲,不合法(违反法律或法规)、不正当(如歧视性使用、宰熟等)或不必要的使用,就构成滥用。

但相较于不合法、不正当有着相对明确的判断,对必要性的界定缺乏统一定义。黄磊认为,必要性跟技术成熟度和应用的真实场景息息相关,当利大于弊,相对来说是必要的,如人脸识别最重要的优势就是远距离无接触,在防疫抗疫起到很大作用。同时,人脸识别带来的便利性是不可否认的,在机场、火车站的通关速度更快,有些局部不完善的环节也可以通过技术上的改进做得越来越好。

汉王科技副总裁、汉王研究院院长黄磊

在劳东燕看来,必要性是指,如果有更加缓和或温和的手段可以实现相同的目的,人脸识别的使用就应视为不必要。这需要综合性衡量技术给社会、行业带来的好处和风险,不能局限在非常小的范围之内进行利弊衡量,尤其是注意到人脸识别技术所带来的诸多社会性风险。

“人脸识别为什么在最近一两年开始为公众所关注?就是因为风险开始呈现了。”劳东燕认为,人脸识别应用的最大的获益者不是普通的用户或消费者,而是主要给企业、产业界、相关部门带来便利,企业获得盈利,相关部门在管理上更加方便,但却把风险主要转嫁给了作为用户的个人,这对普通社会公众来讲并不公平。

她还例举了人脸识别存在的风险,如人脸信息的泄露和滥用可能会带来更多的违法犯罪、事后缺乏救济的风险、歧视性风险,以及成为透明人而被操控的风险。相较产业性利益,人脸识别带来的社会性风险更大,尤其是多中心的信息收集一定会暴雷,技术上也难以对个人生物信息的安全提供基本的保障,因此她表示,对于推广人脸识别技术应当持谨慎态度。

黄磊认为,人脸识别存在的便利性和安全性的问题,短期内可能有一定的冲突或矛盾,但是长期来说应该是一致的,可以通过技术进步来解决。

邓伟洪认为,人脸识别一定程度上可以让我们的生活变得很方便和更安全,在追捕逃犯等方面也有重要应用,比如最近有一个逃了二十多年的杀人犯劳荣枝,通过人脸识别技术被抓捕,而且她还在逃亡期间不断整容。

“但当技术应用越来越广泛的时候,安全性肯定也会越来越严重,这是所有技术的问题,人脸识别也是如此。”邓伟洪说,对人脸识别的发展表示乐观,但目前亟需规范。

如何规范发展?监管、技术等多管齐下

当风险不断显现的时候,相应的监管也在开始逐步完善。

从去年10月实施的《信息安全技术个人信息安全规范》,到今年4月国家市场监管总局和国家标准委联合发布的《人脸识别数据安全要求》征求意见稿,再到7月份最高法发布的《关于审理使用人脸识别技术处理个人信息相关民事案件适用法律若干问题的规定》(下称《人脸识别案件法律规定》),以及9月1日实施的《数据安全法》和即将在11月1日实施的《个人信息保护法》等,都对包括人脸信息等在内的个人信息和数据安全等作出了规定。

在沙龙中,劳东燕分析称,最高法发布的《人脸识别案件法律规定》是针对民事责任层面,最大亮点在于明确了举证责任,提到八种情形(如下图)直接推定企业方有过错,应当认定属于侵犯自然人合法权益的行为,这就减轻了个人的举证责任,而以前个人这方很难完成举证。

劳东燕提到,《个人信息保护法》涉及行政责任,如果企业在搜集或者处理数据的环节过程中存在侵权或存在违规违法行为,主管部门可以进行行政处罚,对企业主体和相关责任人都进行了规定。她还提醒到,如果不经同意而获取包括人脸信息在内的个人信息,单位与相关责任人员可能构成侵犯公民个人信息罪中的非法获取,在刑法上也会面临被追责的风险。

劳东燕认为,规范人脸识别发展,首先要在法律框架上确定方向,同时要借助于行业自律加技术。她认为,可以考虑引入特别许可制度,对相关企业或相关部门需要有技术或其它资质方面的要求,并严格限制人脸识别的适用场景;只有获得特别许可的有资质的单位才允许其在特定场景中进行使用,这样风险相对较小,同时能够顾及到产业的利益和发展。

对于一个行业的健康发展来说,企业也需自律。黄磊就提到,人脸识别相关企业在商用化过程中,除了要有外部的合法监管,企业自身也应该遵循一些原则,比如提供公平和非歧视性的人脸识别技术和服务、保持透明性、形成问责制度、保障用户的知情权等。

邓伟洪认为,现在人脸识别的应用走在了规范的前面,导致乱象,需要通过法律和技术两重手段规范。从技术角度,也有很多方法可以保障数据的安全和隐私,比如发展隐私计算、数据脱敏、加密,以及可以防止被识别出来的水印技术等。但他提出,这会带来成本的提高,可能需要法律去强制企业去做。

黄磊认为,人脸识别业界最大的问题是技术和产品良莠不齐,相关企业可能百家以上,还有很多作坊式的。“对于从业的企业没有任何约定,谁都能做,法律层面需要做好技术产品企业的入门规范。”

同时,在涉及人脸信息等数据管理方面,黄磊建议,需要有统一约定的数据治理框架,便于监管。他还表示,数据获取本身也要有一个规范,比如最小化原则,收集必要的最小字段。此外,还应该在人脸识别应用后采取一些保障和救济措施。

当然,人脸识别滥用问题的解决也离不开社会中每个个人的努力。劳东燕也鼓励大家多发声,在受到侵害时尽力去维护自身权益,倒逼企业合规,让整个数据经济往更健康的方向发展,从而获到经济效益、社会效益的双赢局面