清华大学苏世民书院院长薛澜解析AI国际治理新路径:中国方案引领全球智能向善

全文3736字,阅读约需11分钟,帮我划重点

划重点

01清华大学苏世民书院院长薛澜在2024年世界人工智能大会上探讨人工智能国际治理现状、挑战及中国的努力和贡献。

02薛澜指出,当前人工智能发展迅速,但治理体系变革滞后,发达国家与发展中国家技术鸿沟难以弥合,全球治理机制复杂。

03为此,中国提出以人为本、智能向善的治理理念,多元主体、多维共治、敏捷协同的治理体系。

04薛澜建议建立类似IPCC的专门委员会探索AI发展风险和挑战,产业实践为国际治理提供支撑。

05最后,他提出"四个统筹"概念,尊重技术规律和产业实际,建设合作共赢的全球人工智能生态。

以上内容由腾讯混元大模型生成,仅供参考

图片
腾讯科技讯 7月4日消息,在2024年世界人工智能大会上,清华大学苏世民书院院长、清华大学人工智能国际治理研究院院长薛澜发表了题为《全球人工治理与中国方案》的演讲,探讨人工智能(AI)的国际治理现状、挑战以及中国在这一领域的努力和贡献。
薛澜首先概述了人工智能的快速发展和其带来的各种挑战,包括技术进步的速度与治理体系变革的缓慢不匹配、发达国家与发展中国家之间的技术鸿沟,以及全球治理机制的复杂性,并强调了中国在人工智能治理方面所采取的以人为本、智能向善的治理理念,以及多元主体、多维共治、敏捷协同的治理体系。
他提出,构建一个公平、公正、综合、平衡的人工智能国际治理体系至关重要,这不仅关乎技术的安全和可靠性,也关乎全人类的共同发展。此外,他强调了科学共同体在国际治理中的作用,建议建立类似IPCC的专门委员会来探索AI发展的风险和挑战,并提倡产业实践为国际治理提供支撑。
最后,薛澜提出了“四个统筹”的概念,以进一步打造人工智能治理框架,并强调了尊重技术规律和产业实际,建设合作共赢的全球人工智能生态的重要性。
图片
下面为薛澜演讲实录:
我来对这个报告内容做一个简单的介绍。人工智能国际治理研究院是一个跨院系的研究平台,我们特别期待今后能够跟更多的国际国内各方面的同仁一起深入研究,来推动人工智能国际治理这方面的工作。
《全球人工智能治理与中国方案》报告内容有三个部分,我想先介绍当前全球人工智能的现状和挑战。
人工智能发展的基本情况我想大家都很清楚,2020年年末前后,大模型正式推出后,可以说是突飞猛进,每隔一两个星期、每隔几天就有一些新的进展出来。在这些方面,我们列了一些:有的是原生的、多模态的、生成式的模型,有的是智能能力不断提升、软硬件组合的优化,还包括巨型智能、人工智能基础科学以及安全可信等方面的进展。
我们肯定有好多学术界的同行会说,在大模型时代,学术界好像不如产业界。我们后来也跟一些专家交流,很多专家讲其实背后的很多基础性研究还是在支撑着很多大模型的进展,他们是背后的关键力量。所以我觉得学术界还是有我们的生存之地。
另外一点就是发展治理也成为我们当前的核心共识。大家看到,应该说在美国、中国、欧洲等很多地方,对人工智能领域的基础设施和研发投资方面做了大量的投入。另外也特别高度关注相关的治理问题,所以在这方面的研究应该说已经到了一个各方面高度关注的新的转折点。
现在也形成了一个发展与治理并重的体系。在安全治理方面,不光是我们学术界,在政府部门各方面也都得到了重视。大家也知道,去年在英国布莱切利庄园有一个宣言,今年5月份有首尔宣言,现在欧盟的人工智能法即将落地。而且现在还有很多其他的各种峰会、对话等。所以这个应该说已经形成一个共识,就是人工智能的安全发展、人工智能的治理已经到了需要我们全世界高度关注的程度。
人工智能国际治理本身也面临一些挑战。首先当然就是前沿人工智能技术挑战,这里面有各种各样的风险。这些风险其实就是我们治理需要面对的问题、需要去解决的问题。但另外一点就是,我们期望去对这些问题进行治理的时候,我们当前的国际治理体系和国际环境还带来很多问题。
这里面有几个方面的挑战:
一个是所谓的"节奏问题",就是技术发展的步调非常快,但我们治理体制的变革步伐比较慢。这个不一致就会导致一个现象,治理总是在追赶,总是赶不上。
第二是发达国家和发展中国家的技术鸿沟目前还是难以弥合。很多发展中国家对当前全球治理的架构还是很不满意,我们确实没有足够的平台能够真正有包容性地把很多发展中国家纳入进来,参与这些问题的讨论。当然大家可能说,这背后可能有更深层次的原因,经济社会发展的原因,还有很多基础研发能力的差距,这个问题的鸿沟也是需要去解决的。
第三个其实就是我们研究全球治理的时候常常提到一个概念叫"机制复合体"。这个机制复合体说的是什么呢?我们有一些当前的重大问题是全球治理的问题,需要我们大家来关注来解决,但这些问题特别复杂。
现有全球治理机制并不能包容所有问题。比如说安全问题,如果我们讲在武器化方面的问题,那么其实联合国有相关的一些机制,他们可以在一起来讨论这些问题,但它只能涉及到这一类问题。但我们讲数据安全的问题、隐私保护的问题,可能联合国的机制解决不了,那可能需要各个国家的很多相关政府监管部门。
类似这样的事情有很多,实际上有很多不同的机制,都有可能会对人工智能的治理有一些管辖权限,或者都有一些责任来参与治理,但是谁都解决不了所有的问题。而且这些机制之间没有上下级关系,甚至是互相重叠的或者冲突的,也可能平行的。这样就构成了一个所谓的机制复合体。这就是我们当前面临的实际情况,这样的情况,怎么能够去对人工智能的治理用有效的方案,这就是我们现在面临的挑战。
那么在这方面,中国过去这些年还是做了一些努力。目前中国在这方面凝聚了这样一个基本的体系:
从治理理念来讲,中国传统讲的就是以人为本,智能向善,这是我们最基本的治理理念。
治理原则的话,我们在2019年发布的人工智能国际治理原则中有八项基本原则,这里面就包括有序发展、风险管控、还有建立一个更好的治理体系等。
我们的治理体系是一个多元主体、多维共治、敏捷协同的体系。这里面就是刚才我提到的,你没有办法,必须得有这些部门、这些机构,必须得多元地参与。通过这样的一些方式,我们的很多治理工具也包括了法律法规、技术标准、行为准则、伦理规范、国际倡议还有企业责任等,作为一些综合性的发力来推进治理。
另外,中国的一个特点就是我们一方面是推动加强治理,但另外这个治理的目的也推动它更好地发展。所以这两者是两个轮子,要并行地推进。
在这之前,互联网行业发展很快,所以实际上为我们的人工智能发展应用提供了非常丰富的基础,包括算力、数据还有很多应用场景,这确实是非常重要的一个基础。此外,我们目前的产业发展,很多企业包括阿里、腾讯等这些大企业在推动大模型方面做了大量的工作。所以大家一讲到中国,也是这种所谓"百模大战"。这些模型不一定全都那么厉害,但是确实还是有一些比较厉害的大模型。
另外一点就是中国的应用生态,这些通过人工智能赋能在各行各业很多非常丰富的场景。今天上午发布的那个案例,大家可以看里面有很多很有意思的应用。
我们联合研究希望能够发布全球人工智能治理的中国方案。过去这几年,不管是政府还是其他各个部门,都提出了一系列各种各样的倡议。
今年4月份关于中非人工智能合作的主席声明、今年7月份在联大,中国也作为牵头国提出关于人工智能能力建设的决议,这个决议就是希望能够解决刚才我们提到的发展中国家目前在很多能力方面存在的一些问题。
我们现在提出报告的一些主要观点:
一个是求同存异,持续沉淀基于共识的全球人工智能治理理念。首先就是要构建一个公平、公正、综合、平衡的人工智能国际治理体系。人工智能涉及到全人类的发展,所以希望由全人类能公平合理地参与。同时,我们特别强调,发展与安全是一体两面,要去综合平衡。大家特别谈到安全、治理,也应该和发展是并行不悖的。
其次是要构建负责任地使用安全、可靠、可信的人工智能系统的国际治理体系。这确实是我们国际社会共同的责任,来应对人工智能系统可能面临的失控、恶用和滥用的风险,负责任地使用人工智能,确保人工智能的安全、可靠、可信。
第三是构建一个符合发展规律、有利于产业繁荣的人工智能国际治理体系。我们一方面要有一个很好的治理体系,但这个治理体系要能够符合技术发展规律,能够对技术应用保持耐心。我们也做过一些中国人的调研,制造业企业用人工智能技术,中间有一段时间需要大量的投入,但短期内看不到收益效果。所以需要有耐心,要真正按照市场的规律,另外安全治理也要对技术进步保持耐心,防止过度超前的监管措施对技术进步产生影响。
最后,在国际层面要去构建一个丰富完善、各具特色的多边国际治理机制。刚才也谈到,由于机制复合体存在,所以我们想构建一个完全单一的、所谓的层级化的体系还是有它的困难。所以这一定是一个丰富多样的国际治理机制。我们特别强调,在联合国框架下能建立各方面能够开放包容的平台和机制。
人工智能领域确实要相信科学,所以要依靠科学,用科学共同体的力量来助力国际治理机制的完善。刚才讲到很多未来的风险是什么,我想我们还是要相信科学家的判断。这就像气候变化一样,我们要有专家的联合力量来判断。所以我们也建议,当然好像联合国的专家组也提出建议,就是要在联合国框架下建立类似IPCC这样的专门委员会工作组,来不断探索人工智能发展的进展和风险。
要用产业实践来为国际治理提供支撑,在发展和安全两侧都去发掘行业实践。因为中国在这方面有丰富的场景,还有大大小小的企业构成丰富的产业生态。在这方面,我想可能尤其是对发展中国家来讲,其实也是很难得见到的。所以通过这样的一些实践经验的总结提炼,希望能够为很多其他国家来提供一些借鉴。
怎样去进一步打造人工智能治理框架呢?我们提出所谓"四个统筹":
1. 统筹发展与安全;
2. 统筹伦理、立法、标准、测评等不同类型的核心治理工具;
3. 统筹国内治理与国际治理;
4. 统筹既有的治理经验和治理资源与人工智能发展面临的实际问题。
再就是要尊重技术规律和产业实际,建设合作共赢的全球人工智能生态,加强算力和数据的共享整合,降低重复建设的成本,保证各个国家和地区都有机会参与人工智能发展,享受技术红利。
这里面确实要提一下,如果大家做大模型的话,能源消耗也是不得了的,所以今后怎样去解决这方面的问题,怎样去降低重复建设的成本?
降低能源浪费要靠技术创新,保障不同人工智能框架、生态系统之间的互操作性,推动开放标准、开源技术,建立全球大家都能接受的人工智能安全协调机制、标准设定和评测体系。这一点大家知道,可能各个国家的人工智能治理规则、规定、办法跟其他国家不一样,因为各个国家的文化、治理体系各方面有很大的差别。所以我们尊重这种多元化的国内治理体系的存在,但另外我们又需要能够去接口国际,所以操作性就变得非常重要,这也是治理体系需要考虑的。