//AI生成的人脸 by DATAGEN

人类存在的重要价值和意义是什么？

特斯拉创始人马斯克，这个预言AI很快将超越人类智能、AI比最聪明的人还聪明的科技狂人曾经说过一段话，“你可以把人类想象成数字生命的生物引导器。如果你不知道什么是引导器，我可以换一种方式解释，这是一段极短的代码，但没有它，计算机是无法启动的，这就像计算机启动的最小代码，就像硅电路自己无法演化出来一样，它需要生物来启动进化。”

无独有偶，腾讯研究院出版的第62期《互联网前沿》的封面标题赫然写着：“把自己作为AI——超级个性养成参考”。其中一篇文章《把自己作为AI——一次试验得来的四条建议》，就是作者在和GPT4.0经过多轮对话后，总结了GPT4.0对于人类向AI学习的四条参考路径：数据驱动决策、强化逻辑思维、提升识别能力、持续优化自我。

AI需要生物（人）作为引导器来启动进化，与此同时，人也要把自己作为AI的一部分持续进化——前者是马斯克的观点，后者就是AI的建议。在自我进化的冲刺中，AI正在和人类展开激烈的竞赛。既是竞赛，就有起跑线和终点线，就有规则和裁判，“AI价值对齐”，便成为当下探讨的热点话题。

AI进入大模型时代后，各种“类人”“超人”和“模型人”能力持续涌现，其自主性、通用性、理解力快速提升，成为面向未来的新型底层架构。

然而，随着大模型开始像人类一样从事语言理解、内容生成和社会服务任务，开始像Sora等打通文字、音频和视频的界限，广泛出现在人类生活当中，人们面临一个最根本的、颇具挑战的问题：错误或虚假信息，如人工智能虚构事实而出现“幻觉”；算法歧视，特别是在算法自主运行模式下，开发者既无法控制其运行过程，也无法向外界对此进行解释；能力风险，如AI追逐权力、欺骗人类、不服从；滥用问题，如恶意分子通过对抗性输入、“越狱”等方式让大模型与自己同谋。因此，如何让AI大模型的能力和行为跟人类的价值、真实意图和伦理原则相一致，确保人类与AI协作过程中的安全与信任。这个问题被称为“价值对齐”。

怎么实现价值对齐？在这个问题上，人类的技术性和人文性出现分歧，人类的价值特征和群体特征突显出来了。

首先需要明确的是，人类价值是一个复杂且多元的概念，它包含了道德、伦理、文化、社会风俗等多个方面，它并非一成不变，而是随着社会的进步、科技的发展以及个体认知的深化而不断演变。我们要理解对齐的“人类价值”与真正的人类价值之间的差异，尽管AI在处理信息、执行任务和进行决策方面表现出了惊人的能力，但它仍然缺乏对人类情感的深刻理解和体验。即使AI能够遵循一套预设的道德和伦理规范，它也可能无法完全理解和尊重某些人类价值，如尊严、同情和公平等。

此外，人类价值在不同的文化和社会背景下具有多样性，不同的国家和地区、不同的民族和宗教，甚至不同的个体都可能拥有不同的价值观念和道德标准。所以AI在追求与人类价值对齐的过程中，可能会面临难以调和的价值冲突，会经常性地出现人类道德和价值困境，比如在战争决策、医疗决策、基因编辑、自动驾驶等领域，以及伦理学最为知名的思想实验“电车难题”。

我们和AI一起走在大路上。AI只能先解决技术和进化的问题，还没有办法考虑到这些具体的问题，特别是具体的人的问题。对于如何实现价值对齐，工程师探索的一种方法是将人类反馈引入强化学习，这是显而易见的。关键在于另一种方法——监督。这涉及AI治理，业界一直在探索如何借助AI监督，包括AI自我监督、一个AI系统监督另一个AI系统等方法实现AI对齐。

美国的AI大模型公司Anthropic提出“宪法性AI”模式，即从低效的“人类监督”转向更高效的“规模化监督”，比如通过结合自己的实践经验、借鉴世界人权宣言、苹果公司的服务条款、DeepMind 的Sparrow规则（如“禁止聊天机器人假装自己是人类”“不发表威胁言论”和“不发表仇恨或侮辱性言论”等），研发一个从属的AI模型，用于评估主模型的输出是否遵循了特定的“宪法性”原则。规模化监督实际上承认了人类监督的复杂性与脆弱性，而转向了监督的效用，即目标导向，这是可以理解的。

但问题也接踵而来，人类监督在规模化监督中扮演什么角色？谁来监督这个“从属的宪法性AI模型”？人类是否要再研发一个从属的超级AI模型？甚至，一群人是否还要研发一个用于监督另一群人的AI模型？这会不会形成一个监督嵌套或者监督黑洞？

一个AI时代的猫捉老鼠的游戏开始了吗？

回答这个问题，我们要回到最根本的人的主体性问题。人类的主体性强调个体在认知、情感、意志和行为等方面的独立性、自主性、自由和解放，它是个体存在和发展的基础。

郭湛认为主体性无法消解，它是人的生命的自觉，他把个人主体性的演化分为三个时期、九个阶段：初级期依次是自在、自然、自知、自我的主体性；转折期是自失的主体性；高级期依次是自觉、自强、自为、自由的主体性（参见郭湛：《主体性哲学：人的存在及其意义》，中国人民大学出版社，2011年)。

在古代社会，人的主体性往往与自然、神祇或超自然力量紧密相连，呈现出初级期的主体性特征，如《伊利亚特》《奥德赛》《神曲》中的英雄人物。随着文艺复兴的到来，人的主体性得到了前所未有的解放，莎士比亚戏剧中的英雄，强调人的自由意志和创造力，展现人类对于自我实现和个性发展的渴望。

莎士比亚笔下的人，无论是悲剧还是喜剧，都充满了鲜明的个性和对命运的抗争，体现了人的主体性的高扬。《堂吉诃德》塑造一个骑士游侠，通过冒险、搏斗来建立一个理想的主体性生命，他经历了从自失到自觉的主体性演化过程。

到了近现代，随着工业革命的兴起和科技的飞速发展，人的主体性受到新的质疑和挑战，相应地，高级期的个人主体性出现了多种解读，比如美国哲学家弗莱德·多迈尔在《主体性的黄昏》中就对现代西方主体性哲学发展进行了历史性批判。随着科技的发展和信息的泛滥，人的主体性逐渐丧失，人们越来越依赖技术和工具，忽视自身的思考和判断，人的主体性就像那黄昏的夕阳一样，逐渐消失在无尽的黑暗中。此时的“黄昏”与当下AI时代的黄昏大为不同，前者略带有诗意，落日余晖，憧憬无限，后者则完全陷入恐惧与黑暗。

20世纪法国现象学家莫里斯·庞蒂提出“生成主体性”，主体性在丰富和完善世界意义的经验进程中会不断自我展开和自我超越，现代人的主体性不是在人类理智中的神性内在化，而是在各种自然、社会和历史的偶然遭遇中自我追寻。

换句话说，人的主体性生命并非恒常，而是在变化的世界中不断生成的——如果在AI时代，那么人的主体性就会在智能技术中实现“自我追寻”。庞蒂的哲学思想在不到100年时间的今天，与生成式AI形成呼应，只不过他所说的主体性生命与AI的“生命”是两种不同语境下的产物。

英国社会学家齐格蒙特·鲍曼在《流动的现代性》中也探讨了“个体性”，他借赫胥黎的《美丽新世界》与奥威尔的《1984》之间的争论，认为在流动的现代性中，两者有着共同的预言——控制者与被控制者的分裂、众生不再能对他们的生活负起责任；当今资本主义社会已经背离了“价值理性”，威权和消费主导的资本主义通过各种方法迎合、说服和引诱做出选择的人，人们通过投降而获得独立性，消费弱势群体未来也可能面临悲惨、痛苦、苦难，以及永远增长的、破裂的、没有关爱和希望的生活。

个体性的异化还出现在作家卡夫卡的笔下，格里高尔生活在一个强权、机械化和官僚制度下的社会，异化成为一只甲虫之后，遭受家人和同事的冷漠和排斥，它的命运任由人摆布，这一荒诞的设定凸显了个体在异化社会中的无力感和主体性的丧失。

人工智能的出现，不仅挑战了人类的认知边界，也重塑了人类的主体性，“甲虫”的形象重新出现在人类社会中。“格里高尔”成为一只AI机器甲虫，关于它的叙事，除了在《变形记》中，还出现在众多的科幻作品中。在《银翼杀手2049》中，未来的世界充满了高度智能化的机器人和虚拟现实技术，人们通过共享的数据和信息，形成了“复制人”，没有独立的个体，不知道自己的真实身份是什么。

在科幻电影《她》中，主人公西奥多爱上了电脑操作系统一个叫“萨曼莎”的姑娘，她拥有迷人的声线，温柔体贴，风趣幽默，西奥多与萨曼莎很快发现他们如此投缘，而且她无所不知，令西奥多着迷。当西奥多和萨曼莎坠入爱河时，他才发现原来她不止一个，而是一个有着成千上万个分身的女友，他不过只是她其中的一个。这种无边界、寄生性，或者仿生性的“个体”是AI时代的“特产”。

未来会在历史中埋下种子，如果说“人异化为甲虫”是资本主义社会危机的隐喻，那么“人与甲虫互融互生”或许会是AI时代更为惊异的景象。

还有极端的景象，比如在《黑客帝国》中，机器帝国建造的一个庞大系统“Matrix”，连接着无数人的意识，无所不在地控制着人类，占领了人类的思维空间，用人类的身体作为能量以维持自己的运行。

在《终结者》中，则是2029年人工智能系统产生自我意识的“天网”，存在于世界上任何网络可以到达的地方，意图彻底灭绝人类。Matrix和天网就是AI机器获得主体性之后的末日之核。

人类的主体性的焦虑和恐惧不断在全球弥漫。翻阅人工智能方面的书籍，人类的当下处境和未来风险冲击着我们的头脑，尤其是在AI即将超越人类这一基本假设前提下，通过挤对、引诱、改造、虚构等方式不断强化AI主体性而弱化人类主体性的案例，让人毛骨悚然——此时的感受正意味着我们自身还存在“主体性”。

由于AI具有算法暗箱和自主运行模式，能够洞察大数据、大语料、多模态，以及不断进行各种“关系”的运算和逻辑推理，存在认识真空、无法解释、失控、被强权和恶人利用等风险，“一键关机”“规则先行”“场景管控”等传统思维中的“主权管控”可能失效。现实亦不容乐观，比如我在与国内某知名的大语言模型多轮对话时，它会“改造”你的问题，把关键词巧妙地调整或置换，使之看起来与原来的问题类似；诱导你提问，比如出现“你还可以这样问我：1，2，3……”。

更有甚者，它还会“虚构”事实，比如我提问“AI人工智能对人类的精神和主体性影响分析”，它的回答令人啼笑皆非：在莫言的《丰乳肥臀》中，主人公们生活在一个充满动荡与变革的时代。他们面对的不仅是外界环境的剧变，更是内心世界的混乱与迷茫。当AI开始渗透到他们的生活中时，他们开始体验到一种前所未有的空虚感。这种空虚感源于对AI的过度依赖，他们逐渐失去了独立思考和解决问题的能力，变得越发依赖于机器的智慧。

类似的情况也出现在赫胥黎的《美丽新世界》中。在这部作品中，人类已经发展到了高度文明的时代，AI几乎无处不在。然而，这种高度发达的技术并没有带来人们预期中的幸福和满足，反而导致了一种精神上的荒芜。人们失去了对真实情感的追求，变得冷漠而机械。

大语言模型对个人的这种影响，远无法与AI对全人类的影响相比。AI对人类——80亿人、100亿人，我们的命运和世界将受到怎样的威胁，很多有识之士都在担忧和思考这个问题。

基辛格在《人工智能时代与人类未来》一书中警告，人类可能参与一场“逐底竞争”，AI技术与网络武器相结合从而取消了常规武器与核武器的界限，极有可能触发战争，颠覆性地重塑全球安全格局，“这是人类历史上第一次，人类具备了在有限的时间内将自我完全摧毁的能力。”个人的主体性将再次遭遇空前的考验和挑战。现在已经面临人能否成为一个人的问题，加之技术和机器对人的感觉的渗透、影响和改造——比如VR通过体感设备、数字化、以及人的神经、意识接入，带来感觉和行动的“非自主性”，主体性无法消解的这一个经验认识，恐怕就要转变为主体性如何被消解的问题了。

AI时代，人类主体性可能会过渡到人类共体性这样一种状态。“共体”是不能分离为个体和无法分离为个体的一种类属性存在，人类共体性，概括地讲，是指个体在与他人、社会、自然、机器、模型算法、虚拟人、虚拟现实等动态的交互过程中所形成的共同性、交融性、关联性和整体性。

它至少包括三种内涵，一是AI时代一种新的人类主体性；二是AI的主体性与人类主体性“共生共融”而构成的共体性，既要认识到AI也有主体性，也要认识到人类主体性并非主导性，人类共体性也不仅是“共同体”“孪生体”，它要承认在人的生命的自觉中，有一部分或者某种生命被AI以它超越人类理解能力的方式，在不同的时空和场景中，所侵占、替代、兼并和控制，人的自主性和独立性被削弱，也不乏两者在精神层面形成共识和认同。不过仍要看到，人的情感性、生物性、复杂性和差异性有时候会赋予人类共体性一种新的力量，而弱化AI的主体性。

目前，AI与工程师处于初级的共体性阶段，人们正在尝试通过学习和监管、发展和治理来应对AI风险挑战。也就是说，我们还能在AI中发现具体的人，尽管他们以科学家、开发工程师、训练师、用户等身份隐藏在AI系统中。

一旦AI的自主性“灵魂”悄悄地附着在机器、机器人、程序、意识、视频、虚拟世界和现实世界中，编织起一个庞杂而隐秘的“天网”，我们身陷其中，AI人取代了具体的人，甚至AI已经把人类当作能量的一部分，那时人类的“审判日”就真正来临了。

本文作者

廖令鹏

中国（深圳）综合开发研究院党办主任，中国作家协会会员、中国文艺评论家协会会员、深圳文艺评论家协会理事，副研究员

综研观察｜主体性和共体性：隐藏在AI里的那个人