人工智能，超越“核武器”的“人造上帝”｜独思录 x 郑永年

近代以来，国际秩序并非一成不变，每一个时代有每一个时代的国际秩序。马克思认为，经济基础决定上层建筑，也就是说，有什么样的经济形态，就会有什么样的政治秩序。实际上，在国际层面也是如此。在每一个历史阶段，占据主导地位的经济形态决定了国际秩序的形态。在农业社会，鉴于生产力水平较低，经济能够满足基本生存需求已属不易。这种情况也反映在马尔萨斯的“人口论”中，人类靠自然原因（事故和衰老）、灾难（战争、瘟疫及各类饥荒）、道德限制和罪恶（杀婴、谋杀、节育和同性恋）等因素来解决人口的过度增长问题。在国际层面，帝国出现。随着土地和人口成为帝国生存的要素，帝国也形成了以陆地为核心的地缘政治秩序。

进入商业贸易时代之后，贸易，尤其是通过海洋的远程贸易成为最重要的经济基础，交通要道便是国际秩序的经济基础。进入工业化时代以来，海洋贸易、工业制造品和能源成为国际秩序的基础。进入信息时代以来，信息成为国际秩序的要素。而今天，人类开始进入“第四次工业革命”时代，尽管第四次工业革命的内涵和外延在不断被定义，但人工智能注定成为这次工业革命的核心。

毫无疑问，基于人工智能之上的经济形态正在重塑国际秩序。旧的国际秩序正在解体，新的国际秩序必然来临，其基础便是基于人工智能之上的新经济形态。因此，不难理解，今天世界各国之间的竞争核心无疑是人工智能，而核心中的核心便是中美两国之间的竞争。可以预见，中美两国在人工智能领域的竞争基本上决定了未来世界秩序。

作为世界上最大的两个经济体，中美两国关系是今天世界秩序的两根支柱。今天，尽管俄乌战争和以巴冲突依然在进行，但还没有引发人们所担心的世界大战，背后一个主要的原因是中美两国没有发生直接的冲突。可以想见，如果在俄乌战争中，中国采取“选边站”的政策，无论是选择俄罗斯还是选择乌克兰，那么世界大战早就降临了。尽管美国一直在世界范围内进行所谓“中国和俄罗斯轴心”的对华认知战，但美国决策者心里明白中国的“不选边站”的立场。

然而，中美之间的竞争态势从侧面反映出现存国际秩序摇摇欲坠，全球各国（包括中美两国）在应对日益增多的国际挑战时感到力不从心、无能为力，这一现象的核心原因在于中美两国的竞争过度，而合作则相对不足。

可以毫不夸张地说，中美之间在人工智能领域是冲突还是合作在很大程度上决定了未来世界秩序。秩序既可以来自冲突，也可以来自合作。对我们来说，要回答的问题是：如果冲突，这种秩序会是怎样的？如果合作，这种秩序又会是怎样的？

可以预见，如果中美关系选择“冲突”，未来的世界秩序可能会向美苏冷战“核威慑平衡”式的危险秩序演进——只不过这次是以两国的“人工智能技术相互构成潜在毁灭性威胁”的方式。反之，如果双方选择“合作”，人类便有机会利用人工智能为社会带来福祉，同时建立起有效风险管理和安全保障的国际新秩序。

在这方面，我们不得不重复一下基辛格先生生前给我们留下的智慧和忠告（实际上是警告）。基辛格先生认为今天和未来，中美之间围绕着人工智能的谈判犹如冷战期间美苏之间围绕着核武器的谈判。长达半个世纪的美苏冷战秩序是一个核威慑下的冷和平秩序。根据我的理解，基辛格先生看到了人工智能对国家间关系或者国际关系的重要性，并认为：如果中美这两个全球最大的人工智能国家无法携手合作，那么不仅对中美两国而且对整个世界都可能产生毁灭性的影响。

什么是核武器威慑下的冷和平秩序？这个秩序有几个显著的特征。第一，这是一个分裂的秩序，即拥有核武器的双方或者双方阵营之间互相对立，双方之间少有交往，甚至没有交往。第二，拥有核武器的双方不会发生直接的冲突，至多进行一些代理人战争。第三，拥有核武器的一方不会遭到侵略或者攻击。第四，拥有核武的国家互相了解如何应用核武器。就技术而言，控制核武器的运用比较简单，因为人们知道核武器是什么样子、原理是什么、制造这些武器的难度有多大。

正因为核武器具有这些特征，越来越多的国家，无论大小，都试图发展成为拥核国家，一方面以威胁没有核武器的国家，另一方面以免遭外来的威胁。同时，国际社会也发展出了类似国际原子能机构（IAEA）那样的机制来管控核风险。

不过，也应当强调的是，自核武器发明以来，人类迄今依然生活在其阴影之下。人类依旧生活在核武器时代，危险并没有消除，只不过是各国政府之间通过一系列协议有效阻止了核武器的使用。尽管这已经是一项巨大的成就，但严峻的挑战依然存在。

俄乌战争发生以来，现存的核威慑理论已经遭遇到巨大的挑战。尽管俄罗斯与拥有核武器的北约之间进行着代理人战争，但双方都小心翼翼地试探着对方的心理。对美国为首的北约来说，既要通过这场战争“拖垮”俄罗斯，但又不能让俄罗斯找到任何使用核武器的理由。俄罗斯是否会使用战略核武器始终是北约所担忧的。这方面，美西方国家一直在打认知战，先发制人，让俄罗斯找不到任何使用战略核武器的借口。但是，乌克兰侵略俄罗斯本土的事实使得之前“拥有核武器的国家不会遭遇侵略”的理论假设无效。实际上，核威慑下的常规战争已经成为今天国际政治的常态。

比较而言，人工智能远较核武器复杂。核武器就是一个武器，放在那边，可以用来威慑他国。自其问世以来，只有美国在日本投过两枚核弹。尽管大国间持续就核武库规模进行讨论，透明度难以完全实现，但各国对彼此的基本情况大致有所了解。此外，不仅核大国已明确表明其对核武器使用的立场，而且如前所述，国际社会也已建立了相应的监管机制。

但是，人工智能则不然。

第一，与被置于“仓库”的核武器不同，人工智能已经构成了人类生活的环境，无处不在。人们日常所见、所听、所感、所行、所住和所食的几乎所有事情无一不受人工智能的影响。人工智能早已经成为我们的生存环境。不过，更应当强调的是，人工智能不是人类面临的一种被动的生存环境，而是在主动塑造人类的生存环境。正是在这个意义上，我自己更倾向于把人工智能比喻为“人造上帝”。人类是否是上帝创造的，我们不得而知；但我们现在可以确切地知道，人工智能正在拥有越来越巨大的能力来塑造人类；尽管今天的人工智能是先“人工”再“智能”，但人们有充分的理由相信，如果今天人工智能发展的趋势不能扭转，那么人工智能终究会超越人类的智慧，至少是超越大多数人的智慧。

第二，尽管人工智能已经显现出巨大的影响力，但其依然处于早期发展阶段。人类并不知道人工智能是如何“运作”的。我们知道了AlphaGo打败了人类，但不知道AlphaGo是如何学习的并如何打败人类的。就如人们永远不会知道物理学家爱因斯坦是如何思考的，人们或许永远不会知道人工智能是如何思考的。也就是说，人类对人工智能领域有太多的“不知道”，而且很可能没有办法知道这些“不知道”。或许，哪一天人工智能俨然已经成为“人造上帝”而人类全然不知。

第三，监管机制问题。究其本质而言，迄今人类对人工智能还没有有效的监管机制。尽管学术界和政策研究界，甚至业界本身，都在呼吁要对人工智能进行监管，但这种呼吁并没有表现在行动上。经验地说，各国对人工智能主要有两种态度：第一，不监管，一些国家为了强化自身的国际竞争能力，有意识地不监管人工智能的发展，而另一些国家则是不知道如何监管；第二，不发展，一些国家因为出于恐惧而不发展，或者片面发展。不过，严格来说，监管不代表“不发展”，监管能力也不体现在“片面发展”。

第四，一国之内的监管问题尚且没有解决，更不用说是国际层面的监管机制了。今天，各国都在拼命竞争人工智能的发展，主要国家都想在人工智能领域占据优势。尤其是在中美两国之间，人工智能的竞争关系远超过合作关系。尽管中美两国首脑就人工智能的监管也达成了一些共识，但迄今还没有具体的行动方案，双方的对策仍旧以防御为主。

作为资深外交家，基辛格先生很是敏感，他感觉到了中美人工智能谈判对构建新世界秩序的重要性。中美之间的确有很多事情可以谈。如前所述，世界秩序之乱和中美之间过度竞争有关。如果中美合作，那么很多问题都可以解决；但如果中美不合作，什么事情都做不成。气候变化、公共卫生、核不扩散都可以谈，并且这些问题的谈判不仅是中美两国的利益，也是世界秩序的利益。但问题在于，在地缘政治占据主导地位的今天，中美两国很难就这些问题真正坐下来谈判。即使可以谈判，也导向不了新世界秩序。或许，真正能够促成两国谈判的是像核武器那样的可以“置对方于死地”的东西。今天，这种“东西”便是人工智能，尤其是人工智能+核武器。尽管还没有国家承认“人工智能+核武器”的模式，但把两者结合起来的技术可行性是不言自明的。

如果这样，那么对中美两国来说，又提出了一个更具挑战性的问题：一个“人工智能+核武器”威慑下的冷和平秩序是中美两国想要的吗？

从目前的情况看，这种秩序对美国（至少是美国的冷战派）来说，不仅是可以接受的，而且是其所追求的。美国已经把中国界定为“全球范围内唯一一个有意志和能力与美国竞争”的国家。美国对中国采取了一种旨在遏制和围堵的政策。在亚太地区，美国至少已经构建了六个“小多边”，便是为了实现这些目的。美国曾经通过长达半个世纪的类似政策成功拖垮了苏联，现在它似乎希望采用相同的策略来对付中国。

正因为如此，这样的秩序是中国不想要的，也是中国绝对不能接受的。因此，不难发现，美苏之间的谈判的主题从一开始便是核武器的互相对峙，而中国和美国之间的人工智能的谈判的最低限度是为了避免重蹈覆辙，而在更高层次上追求中美两国在这个领域的合作。

那么，中国如何能够在和美国避免冲突的同时实现合作呢？简单地说，中国必须具有足够的现实主义。是否避免冲突或者实现合作不仅仅取决于善良的主观意志，更取决于实际能力。美苏之间之所以能够实现核武器互相对峙威慑是因为双方都拥有了“置对方于死地”的能力，不仅是“第一次毁灭”，还有“第二次毁灭”的能力。人工智能尽管较之核武器复杂，但道理也是一样的。

也就是说，在人工智能领域，中美认真谈判的一个前提就是双方拥有旗鼓相当的能力。在一方过强而另一方过弱的情况下，双方很难认真的谈判，更不会促成合作。中美在人工智能领域的发展一直是国际学术界和政策研究界所关切的，尤其是中美两国的学术界和政策研究界，这种关切也催生了这方面大量的文献。世界范围内，人们一般认为，人工智能的技术和产能集中在中美两国。尽管欧洲和其他国家也在人工智能的一些领域产生了一些技术和产能，但都无法与中美两国相比。这种情况促使其他国家对中美两国人工智能的发展状况保持关切。大量文献的存在使得人们比较容易了解中美两国人工智能发展的总体情况，这里无需详细论述。

从国际政治的角度来说，我认为，中美人工智能的竞争和合作至少涉及两国在人工智能领域的差异和差距两个问题。竞争指的是两国在同一个赛道上的竞争，如果两国不在同一赛道上，那么就很难说是竞争。同时，差异会导向合作，合作犹如经济领域的交易，通过合作双方发挥自身的比较优势，从而各有所得。如果没有差异性，即大家都生产同样的东西，那么就很难有合作的动机。

经验地看，中美两国在人工智能领域既有差距也有差异，这使得两国既有竞争，也有合作的空间。

先说“差异”。“差异”指的是中美两国在人工智能领域各自在做什么。一般认为，美国侧重的是“商用”，而中国侧重的是“监管”。如果用汽车生产来比喻的话，美国注重生产“发动机”，而中国注重生产“刹车”。我自己更喜欢用“矛”和“盾”的概念来形容两国的差异，即美国注重生产“矛”，中国注重生产“盾”。一辆优质的汽车必须既有好的发动机，也有好的刹车，两者缺一不可。同样，如果要实现人工智能领域的发展和安全的均衡发展，那么既需要“矛”，也需要“盾”。现实地看，美国人工智能技术发展迅速，芯片、算力和算法等领域领先世界。这种情况促使美国侧重民生专业用途的人工智能发展，即生成式人工智能建立基础模型，其目标是商用。不过，美国的监管非常成问题，正导致越来越多的问题。基于人工智能之上的社交媒体使得民粹主义泛滥，冲击着包括民主制度在内的所有现存制度体系。就中国来说，人工智能更侧重于跟国家安全和社会稳定相关的人工智能技术的发展，其目标是监管。因此，中国在人脸识别、可视化监控、无人港口、个人信息系统等领域的人工智能应用走在世界前列。

也就是说，中美两国的人工智能发展其实是非常互补的。中国需要学习美国，在人工智能技术领域赶超美国，而美国则可以借鉴中国的监管技术和模式。尽管今天美国从意识形态出发，把中国的人工智能妖魔化为“监管权威主义”，但总有一天，美国也需要补上监管这一短板。经验地看，人工智能已经冲击到美国现存制度体系的方方面面。

今天，如世人所见，中美两国在人工智能领域竞争过度，而合作缺失。缺少具有实质性的合作不是因为合作缺少技术或者经济基础，而主要是因为两国之间的政治信任度的缺失。

这就涉及第二个方面的问题，即中美在人工智能领域的竞争。简单地说，目前的竞争局面就是：美国试图想在人工智能的技术领域保持绝对的优势，防止中国的赶超，而中国则希望在保持监管领域的优势的同时在其他技术领域赶超甚至超越美国。中国的思路是正确的。如果不能在人工智能的技术面赶超美国，那么美国就很难有动机和中国合作。

中国如何在人工智能的技术领域赶超美国？这里又涉及中美两国的发展模式的选择。简单地说，美国是一个完全以发展为导向的模式，而中国则是一个侧重于监管的模式。

美国是一个资本为主导的社会，在高科技领域形成了完全以发展为导向的模式。尽管自特朗普以来，美国政界也一直在讨论和呼吁对高科技进行监管和规制，甚至高科技资本本身也在这么呼吁，但直到今天，美国还没有出台任何有效的监管体系。就人工智能而言，美国还没有任何联邦层面的监管体系，只有几个总统行政命令。今天，特朗普选举阵营甚至还在叫嚷着要减少人工智能领域的监管，使得美国在人工智能领域较之中国具有更大的竞争力。这种局面很难让人理解，更让人担忧。

美国的发展导向模式是由很多因素决定的。第一，资本倾向于自下而上的自发秩序。资本并不喜欢在自发经济秩序形成之前，政府就对此进行干预，也不喜欢对这个秩序进行任何道德和伦理的判断。等这个秩序成长起来之后，再对此进行评估，在评估基础之上，再进行监管体系建设。第二，美国民主共和两党之间的党争导致政府能力弱化，无能进行监管体系建设。美国监管体系的建设需要基于两党共识之上的支持，而现在两党在内部事务上几乎没有任何共识。第三，社会无力。高科技对美国社会的影响是史无前例的，包括高科技导致的收入分化、失业和年轻人网瘾等。就美国的体制看，民意对监管体系的影响不是直接的，而必须通过他们的“代表”，即政治人物。而党争也使得美国社会非常无力。第四，缺失监管和美国社会在寻求新监管模式也有关系。对传统产业，美国已经有一套相当完备的监管体系，但对高科技应当有什么样的监管体系，美国还在探索之中。多年前，对微软的反垄断就是一个典型的案例，美国政府并没有像对待传统产业那样加以分解，而是用“开放”替代了分解。在高科技领域，资本并不拒绝监管，但需要的是一个合理的监管体系。尽管多年来要分解这些高科技企业的声音不断，但并没有落地。

比较而言，中国发展出了一个侧重于监管的模式。这也是有其背景的。较之美国，中国在高科技领域属于后来者，后来者往往对高科技所产生的政治社会影响感到担忧。因此，在确立监管机制之前，中国很难去发展一种高科技。这种情况导致了中国和美国的差异，美国以发展为导向，而中国以监管为导向。接着前面的比喻，美国是先造车，后造刹车；而中国是先造刹车，后造车。尽管中国也不排斥发展，但的确是把安全置于发展之前。如果用“矛盾”这个概念的话，美国侧重的是“矛”，而中国侧重的是“盾”。

今年早些时候，有专家估计，中国对人工智能的投资中，有多达50%投向了计算机视觉技术（见《中国“AI大混战”背后：想超越美国，又离不开美国》，《纽约时报》，2024年2月22日）。尽管这不是说中国忽视了开发生成式人工智能基础模型，但应当指出的是，中国的人工智能基础模型常常被指依赖于美国的底层系统，并且中国对生成式人工智能的发展也表现为以监管为主。政府在2023年推出了《生成式人工智能服务管理暂行办法》，其中要求人工智能生成的内容必须“符合社会主义核心价值观”“不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容”。这些规定是必需的和必要的，但对生成式人工智能发展所产生的影响则是需要评估的。

在人工智能领域，人们不难发现中国在科技论文和商用之间存在着一个巨大的鸿沟。就发表的科研论文来说，中国已经“赶上”美国，在一些领域甚至“超过”美国。但是，在商用领域，中国远远落后于美国。尽管中国在这方面也在努力，在微软、Meta、谷歌等美国科技巨头纷纷推出大语言模型的同时，中国的百度、阿里、腾讯、科大讯飞等公司也相继推出了自己的大模型，被称为“百模大战”。不过，清华大学薛澜教授最近在一次演讲中表示，国内有超过130个大模型，尽管单从量上讲进步很大，但实际上中国大模型还存在不少问题。有不少大模型是用“套壳”和拼装的方式构建的。

造成这种情况的因素有很多，但过度的监管便是其中一个重要原因。最近的游戏《黑神话：悟空》很火。不过别忘记了，这些年中国在生产大量的游戏，但是因为监管部门的过度监管，许多游戏也去了海外。当然，游戏产业对社会尤其是对青少年的影响的确需要得到重视，这在任何国家都是如此，但不能忘记，游戏不仅仅是游戏，游戏是通往另外技术和产业的重要路径。今天先进的芯片产业是从游戏卡发展而来。没有游戏卡这一阶段，很难想象今天人们所看到的芯片产业。

因为监管过度，很多技术很难在中国落地。最近，美国和西方媒体也在报道称，国内很多人工智能专家因为找不到发展的机会，就转去美国寻找发展机会。事实上也是如此。实际上，无论从技术（芯片、算力、算法等），数据（数量和质量）还是应用（大模型等）来说，中国和美国的距离不是在缩小，而是在加大。有人已经在担忧，如果这个趋势不能改变，那么我们离第四次工业革命渐行渐远了。尽管第四次工业革命的内涵和外延还在不断定义之中，但互联网和人工智能必然是第四次工业革命的核心。

面向未来，中国既要继续发展现存的监管体系，又要在商用领域赶超美国。这两个领域都有巨大的思考空间。

商用领域如何赶超美国？尽管有“百模大战”，但人们过度关注技术层面，即芯片、算力和算法，而忽视了数据端。技术端和数据端是互为关联、互为影响的。先进的技术可以发掘和汇聚更大量的数据和更高质量的数据，反之，更大量的数据和更高质量的数据可以促进算力和算法的提升。在数据方面，中国既需要通过向国外的开放来获取足够的数据，也要通过内部各“数据库”之间的开放来解决数据碎片化的问题，从而提高数据的质量。

监管体系如何改进？这更是一个值得深度思考的问题。人工智能领域的监管和安全考量无疑非常重要，因此我们一直强调要统筹发展与监管、发展与安全之间的关系。但在实际层面，统筹并不是一件容易的事情。一旦到实际政策部门，发展与监管、发展与安全就变成了“鱼与熊掌不可兼得”的关系，并且往往过度强调监管，而忽视了安全。很显然，要统筹好发展与监管、发展与安全之间的关系，必须确立一个正确的观念，即发展是硬道理，不发展是最大的不安全。基于发展之上的监管才是真监管，基于发展之上的安全才是真安全。

因此，除了继续发展现有的监管体系之外，更重要的要发展出监管美国商用模式的能力。禁止美国式商用模式的发展不是监管。监管只能是监管“有”的东西，而不是“无”的东西。例如，互联网如果只是“内联网”，那么就不叫监管。像新加坡甚至越南那样在开放式互联网情境下的监管才叫监管。新加坡和越南发展出了“全面开放、有效监管”模式。较之西方，这些国家比较集权，对互联网具有防范心理，但同时它们也想抓住高科技带来的发展机遇。这些国家的管制很严，但它们都向西方开放，可以自由地使用西方的社交媒体。比较而言，在中国，互联网呈现出“有限开放、无限监管”的局面。尽管人们无限抬高监管的重要性，但在没有充分开放甚至不开放的情况下的监管，实际上是曲解了监管的涵义和意义。在人工智能领域，如果中国也发展出了美国式商用模式，但同时又能做到有效监管，这才是真正的监管能力。

在人工智能领域，中美竞争日益白热化。现实地说，这一趋势无法避免。作为“第四次工业革命”的核心，人工智能发展与否不仅意味着能否引领第四次工业革命，更意味着能否能在未来世界秩序塑造进程中处于领导地位。

对中国来说，“道阻且长，行则将至”。尽管任务艰难，但只要持续努力，就将实现目标。