“生成式AI”狂奔近两年,AIGC与人类、产业乃至世界的联系正在不断加深,未来AI的智能进步可能遵循着怎样的规律?AI会怎样影响到产业,又会如何和人类抢工作?
在2024 Inclusion·外滩大会,关于AI的产业落地、人文思考贯穿着各场演讲、论坛讨论、媒体采访等环节,记者整理了2024年外滩大会来自业界、学界各位大咖的“AI十问”,在这一年,人们对AI的未来想象更为清晰,乐观犹存,更多需要思考的问题也正被看到。
AI的智能进步遵循着怎样的规律,未来将会怎样发展?
“互联网之父”、著名未来学家、《连线》杂志创始主编凯文·凯利谈到了这个“极其重要但难以回答的问题”。“没有确切的答案”成为凯文·凯利的答案。他提醒,OpenAI、微软、Google等都押注在大语言模型,业内相信如果我们不断地扩大语言模型的规模,人工智能就会变得更聪明,但事实上,这更多是一种直觉,未经认证。
凯文·凯利表示,现在的人工智能只擅长回答基于已知事实的问题,类似大家上学时读了一大堆书而显得无所不知的聪明学生,但它们并不擅长提出新问题,也无法进入未知的领域。未来,人工智能能否进行复杂的多步思维链、回答未知的问题,是业界需要尝试寻找答案的一项重要问题。
AGI是否存在泡沫?
应用突破是中国通用人工智能技术(AGI)发展的关键,但目前AI真正的大规模落地应用、大众化的产品仍未出现,大模型公司大多在亏本烧钱,引发了“AGI泡沫”的担忧。
百川智能创始人、CEO王小川在外滩大会否认了“AGI泡沫”的说法,他认为目前大模型的发展从结果上看是符合行业预期的,他提出,为了推动大模型迈向下一个发展阶段,关键在于实现两大融合:一是将知识搜索与大模型相结合,二是大模型强化的结合。
MiniMax创始人、CEO闫俊杰则认为,AGI的发展还需要耐心。他表示,如果模型错误率可以下降到个位数,那么模型就是一个可信赖的状态,AI也有可能从助手变成一种生产力,这种变化会带来真正大众化的产品,为行业带来本质的变化。他期待通过技术的优化来拓展AI的边界。
未来AI可能超越工具属性,获得意识,甚至建立AI文明吗?
“人工智能就是人类文明的下一个阶段。我们正在通过人工智能重塑人类文明,从而创造出一种新的文化。在这种文化中,我们将不再是唯一的物种。”凯文·凯利表示,人工智能并不能像人类一样思考,他们有着不同的思维方式,有点像飞机一样,飞机并不会像鸟儿那样拍打翅膀,而且飞行的方式完全不像动物,人类曾经尝试通过仿生学来制造像鸟一样飞行的飞机,但未能如愿。同理,人工智能被设计成模仿人类思维,但是机器思考的方式截然不同,这意味着,这样不同的思考方式能让AI产生出不寻常的想法和答案。
复旦大学计算机科学技术学院教授、上海市数据科学重点实验室主任肖仰华则表示,人类与其担心AI产生意识,不如先去担心AI过速发展引发失控的风险。他认为,AI的大规模应用足以从根本上改变人类文明的基本面貌。而AI技术的大规模滥用足以在其发展出意识之前,摧毁一个文明千百次。但人类目前对此所思甚少,更谈不上防患未然。
AI大规模应用可能给人类生活带来哪些具体挑战?
肖仰华表示,挑战首先在于我们的生产关系等社会发展上层建筑,如何适应以人工智能为代表的先进生产力的快速发展。他认为,生成式人工智能技术发展已经需要以月为单位进行记录,但是人类的情感、价值、伦理观念调整是十分缓慢的。如何调和这个矛盾,是我们需要直面的挑战之一。
其次,技术普惠问题同样值得关注。肖仰华认为,如何避免少部分人借助先进技术形成不正当的竞争优势需要被关注,此外,还应该特别注意防范技术成瘾,防止先进技术对人类造成反噬。
那么,AI对人类社会是利大于弊,还是弊大于利呢?
凯文·凯利表示,他很明确AI将给人类社会带来全新的问题,AI可能给人类社会带来最大的挑战,甚至比气候问题还要严重。例如未来人可能对人工智能产生强烈的情感依赖,存在潜在风险。
“但AI的发展总体是利大于弊的。”凯文·凯利认为,过去五百年的普遍趋势是人类每年创造的价值总要比毁掉的多1%,他预测,人工智能带给社会的正面影响不会比负面影响多很多,但只要多一点点,就能够推动社会的进步。
如何加强AI治理?
中国工程院院士吴世忠认为,AI 治理可以“以史为鉴”。他表示,人工智能的治理和过去的核控、疾控都是人类发展历程中的“奥本海默时刻”。在这个过程中,我们作为人类命运共同体,能够借鉴的经验很多,比如国际合作和多边协议以及透明度和信任机制的建设等。但与此同时,我们也要根据人工智能的特点,更加科学地进行治理。
联合国人工智能高层顾问机构专家、北京人工智能安全与治理实验室主任、中国科学院自动化研究所研究员曾毅则强调,人工智能的安全和能力不是相互掣肘的关系,对人工智能的治理并不意味着AI能力的减弱和发展速度的减缓,系统的鲁棒性(在面对各种输入情况时,能够正确运行且不出现错误或崩溃的能力)、自适应与安全也是人工智能的能力。未来,人工智能系统风险防范要从被动式转变为主动式,从防御性转变为建设性。此外,人工智能需要从合乎伦理到具有道德。
AI时代如何重新思考人机关系?
“计算机几十年的发展路程里,真正的赢家是做人机交互的。不管是什么技术,最后的目的都是帮助人类更好地使用机器”,香港科技大学校董会主席、美国国家工程院外籍院士沈向洋表示。他认为,AI为人类提供了与技术共生的全新语境,人机交互的新方式指向“AI与IA”的融合共进。IA(Intelligent Augmentation),即智能增强,代表着一种以人为本的 AI 发展路径。它聚焦于运用技术提升人类的能力,而非取代人类,强调了人类与 AI 之间的协作关系。
肖仰华则表示,随着脑机接口与AI技术的广泛应用,机器已经成为人类的外脑、人类的四肢,人不再是传统生物意义上的人。他表示,智能时代,人将变成哲学家尼采笔下的“超人”,即自我超越的人。只不过这种自我超越,将是在机器智能等外力工具协助下完成的。
“与之伴随的是,人与人之间的社会关系也将随之发生变化,AI将成为人类从事各种生产和活动的代理。人与机器之间的关系、机器与机器之间的关系,将不可避免地纳入到我们对社会关系考察范围”, 肖仰华说。
人类如何跟AI抢工作?
北京大学助理教授、北大-银河通用具身智能联合实验室主任、智源学者王鹤表示,可能就像马斯克讲的一样,地球上应该有100亿人形机器人,每个人都应该被人形机器人服务,这些人形机器人不是抢了人类的工作,而是为人类更好地服务。
凯文·凯利则谈到,迄今为止的证据表明,真正因为AI失去工作的人非常少,整个比例可能在80亿人中700个都不到,比起因AI失业,未来更多人的工作角色会因AI发生变化,转向监督AI,接手AI无法解决的复杂问题。“作为年轻人要尝试做用语言解释不清的工作,比如一项需要你花整整半个小时向你的父亲解释你在做什么的工作”, 凯文·凯利建议,这意味着这项工作站在了时代的最前端,还没有完全被定义。
凯文·凯利认为,金融和医疗领域会最先看到变化,因为这两个行业信息密度高。此外,广告和营销行业也会是最早受到影响的行业之一。
蚂蚁集团总裁兼CFO韩歆毅表示,金融行业已经高度数字化,医疗领域也沉淀了高价值的数据,在这两个领域,AI能够针对专业领域做训练,又具备强大的通识、理解和沟通能力,有机会带来专业服务的普惠。
如何应对人工智能在产业落地中的不确定性?
机器学习领域的泰斗、美国“三院院士”迈克尔·乔丹谈到,人工智能在产业中的落地需要形成互相协作的集体。他认为,人工智能不仅要在单个设备上体现智能,更要通过协同在整体系统层面上体现智能,比如,现代信息技术在医疗、交通、金融科技和商业领域的应用,需要集体性、去中心化的智能系统,但如今的人工智能并不具备。
迈克尔·乔丹表示,当前的 AI 系统很难表达它真正学到哪些知识,也没有能力表达它有多确定,他认为,人类在集体协作时能够更好地应对不确定性。如何让AI系统也具备类似的集体协作能力,是一个关键问题。