AI能代替法官吗?“独角兽”丛书探讨人工智能时代的法治

法国艺术小组Obvious用人工智能完成的《埃德蒙·德·贝拉米肖像》在拍卖中以43万美元成交;国内一款AI根据随机画面“三秒成诗”,甚至还出版了诗集……其实,除了文学艺术,人工智能也广泛运用在医学、交通、司法等领域,未来AI会代替法官吗?

近年来,上海学者围绕国家发展战略,率先对人工智能相关法律问题开展研究。上海人民出版社自2018年连续三年推出人工智能与法律领域的系列图书——“独角兽法学精品·人工智能”丛书,囊括人工智能、大数据、区块链、算法等与法律交叉领域的学术前沿内容,该丛书最新第三辑即将推出,包括《数据的边界:隐私与个人数据保护》《驯服算法:数字歧视与算法规制》《人工智能与法律的对话2》三本译著,预计在8月上海书展期间研讨。

“2020世界人工智能大会法治论坛”7月10日将在上海举行,论坛主题为“人工智能的权利义务与法治实践”。这个月,上海人民出版社举办了法治论坛系列活动“人工智能与法治”专题月读书会,刚刚过去的两天,“让人民在每一个司法案件中都能感受到公平正义”、“人工智能、大数据与社会治理”为主题的两场读书会引发关注。

如何推动人类科技向善发展?“推进以审判为中心的诉讼制度改革软件——上海刑事案件智能辅助办案系统”的诞生,正是运用人工智能新技术破解司法难题、推动司法改革的成功实践。《人工智能与司法现代化》记录下这一推动司法现代化实践的全过程。

该书作者、上海市法学会会长崔亚东详解“上海刑事案件智能辅助办案系统”(简称“206系统”)研发始末、功能应用及其最新发展等问题,并探讨现阶段法律人的新任务。“人工智能的发展需要法治作为保障,建立人工智能法治体系,打造人工智能法治高地很有必要。现阶段,聚焦人工智能法治新领域,上海法学会在理论研究与法律应用等方面作出了前瞻性研究与实践。”崔亚东谈到,“206系统”的智能性使其从工具变成了助手,但并不能替代民警办案、法官判案。人工智能是把双刃剑,带来发展的同时也迎来了风险与挑战。为此,上海法学界作出回应:通过举办高端论坛、发布《人工智能未来法制构建上海倡议》(2018)、发表《世界人工智能法治蓝皮书》(2019)、建立人工智能跨学科的人才培养等行动,服务国家人工智能战略的实施和上海“四个高地”建设,提出人工智能未来法治构建的新命题。

面对嘉宾骆新的提问“人工智能还可能在哪些方面推动社会司法透明、公开、公正?”,崔亚东认为,“智联世界,无限可能,人工智能技术的前景是广阔的;现阶段,将辅助办案系统”由刑事推广至民商事、行政领域,在民法典颁布实施的背景下,意义重大、作用深远。只有主动拥抱新科技、运用新技术,走好融合发展的道路,才能促进司法文明与公正,真正实现“在每一个案件当中都能让人民感受到公平与正义”。

崔亚东强调,作为引领未来的战略性技术,人工智能给人类社会带来革命性变化,受益已充分显现;但作为影响面广的颠覆性技术,人工智能发展的不确定性,可能带来风险与挑战。忧患意识、风险意识、前瞻意识不可缺。

在4日“人工智能、大数据与国家治理”为主题的读书会上,华东政法大学人工智能与大数据指数研究院院长高奇琦认为,人工智能会给政府治理带来革命性的影响,可称之为“政府效率革命”。“长远来看,人工智能的大量应用会减少行政成本,但短期来看却未必,新基础设施的投入使用会造成数据存储成本和运行成本的增加。”换个角度看,政府作为治理的客体,在运用大数据和人工智能技术时,会产生哪些问题呢?高奇琦抛出一个话题——数据是否越多越好?

在他看来,这涉及到智能时代的权利边界,“数据打通后可能会带来数据安全与滥用数据权利的问题,需反复思考发展人工智能的初心,不让技术成为问题本身。”

此外,“数据权力与数据饥渴”也会引发部门间的数据竞争——不仅仅是企业之间,政府各个部门间也存在某种意义上的数据竞争,各部门要盯好分属数据,通过分布式存储、加密同步等技术避免数据权利的滥用。同时,数据存储的权力图谱应分布还是集中?“数据集中有利于效率,但太过集中可能会导致权利的滥用;数据分布则会形成一定的平衡,但可能会造成彼此‘扯皮’。”他说。

上海交通大学凯原法学院副教授、上海数据治理与安全产业专业委员会专家何渊,分享了话题“人工智能的限度及治理的五大风险”。他谈到,尽管目前的人工智能是一种“弱人工智能”,但这并不意味着它没有任何治理风险,比如隐私保护已成为无法回避、日益重要的问题;数据泄露的处罚机制不明显,华住酒店集团5亿条数据外泄等事件不断发生。此外,算法推荐会使我们看到的世界变得片面、不完整;数据是一种财富,但企业之间、国家之间的数据争夺战屡见不鲜……

他提出一些建议:应避免互联网公司的数据技术能力替代国家的认证能力;大数据不能任由互联网巨头肆意收集而没有监管;互联网如果没有法律的约束,个人的隐私将不复存在;若无监管,互联网公司恐会变成国家无法控制的巨兽。

在学界看来,关注人工智能时代的法治,就是站在人类命运共同体的角度,积极应对互联网、大数据、人工智能、区块链等前沿科技对国家治理、社会公平正义建设所带来的机遇和挑战。

trong>

《数据的边界:隐私与个人数据保护》

[荷兰]玛农·奥斯特芬 著

曹博 译

《驯服算法:数字歧视与算法规制》

[英] 凯伦·杨 [英] 马丁·洛奇

林少伟 唐林垚 译

《人工智能与法律的对话2

[德]托马斯·威施迈耶 蒂莫·拉德马赫 编

韩旭至 李辉 等 译

图片:出版方供图

编辑:许旸

责任编辑:柳青

*文汇独家稿件,转载请注明出处。