“将来不是谁取代谁,而是人机共存、各走各的道”

《全球产业展望》预计,到2025年,全球的个人智能终端超过400亿个,即平均每个人能拥有五个以上的智能终端。图为法国里昂创新机器人展中的机器人。(视觉中国/图)

(本文首发于2019年11月14日《南方周末》)

“机器比较善于寻找答案,但它不太善于提出问题,提出问题是人类智能一个很重要的表现形式。”

最初杨澜提出拍摄人工智能专题时,团队人员感到讶异,身边的人也大都持怀疑态度——“这是什么东西?做它干吗?你应该去研发一档新的选秀或真人秀”。只有科学家们说,“太好了,你们真应该做这个”。

当时人工智能对大多数人来说仍是一个陌生的词汇,直到2016年,韩国棋手李世石败给人工智能Alphago,人工智能才逐渐为大众熟知。

《探寻人工智能》第一季播出时适逢中国棋手柯洁即将对战Alphago,杨澜接受南方周末记者采访时预测,柯洁未必没有胜算:“人类有出奇制胜和不按常理出牌的能力,哪怕赢一局,我觉得也是赢。”

最终,柯洁一局也没有赢。他后来形容“实在是太绝望了”。自从Alphago领先,柯洁就彻夜未眠,“我一直在想我如何才能赢了它,它会不会有什么漏洞,哪怕是捡一盘也好啊!”直到Alphago在最后一局下出关键一步,柯洁浑身颤抖,知道自己已经失败,冲出对局室,在一个无人的角落哭起来。

其实在1998年,杨澜已“预测”过类似的交锋。Alphago的前身“深蓝”战胜了国际象棋冠军卡斯帕罗夫后,杨澜采访围棋国手常昊。她预言,机器可以在象棋里打败人类,但在围棋中做不到——围棋的变化达到10的172次方,甚至多于所知宇宙中的原子数量。

“在这两次博弈类的人机对抗中,我都预测得过于乐观,或者说过于偏向于人类,这说明了‘深度学习’的发展速度之快。”杨澜对南方周末记者说,“但是另一方面,我也坚信人类更为复杂的智能活动,还是具有不可取代的优势。”

第一季刚播完,人工智能的应用就铺天盖地地来了。制片人黄桂香告诉南方周末记者,他们原本把这档纪录片看作科普性质,“觉得这个东西怎么也得五年、十年才能够到我们身边,但它来得太快了,太迅猛,对以后的社会生活是一个巨大的冲击。”

杨澜和团队立刻开始了新一轮探访,着力于人工智能在医疗、教育、出行等领域的具体应用。制作过程有时很难跟上技术的更新速度,常常是一个新消息出现,上次讨论的案例就已经过时了。比如,近期“换脸AI”软件刚刚引发争议,就被迅速加入了片中。

2017年5月,中国围棋手柯洁对战Alphago,以0-3落败。(视觉中国/图)

“为什么人们会对超级智能产生恐惧?”

麻省理工学院有世界上最早的人工智能实验室,杨澜在那里采访科学家帕特里克·温斯顿,看见他办公室墙上挂着米开朗基罗壁画《创世纪》的复制品。温斯顿告诉她,实验室创建之初,教授和学生们守着一台慢吞吞的计算机,吃睡在实验室,每天到凌晨,“就像米开朗基罗所描绘的《创世纪》,每个人都感觉正处于一个伟大时代的发端”。

在这幅画中,上帝用手指伸向亚当,正在将智慧和意识传递给人类。杨澜联想到,如果亚当的子孙有一天模仿造物主,把智慧注入机器,会发生什么?温斯顿宽慰她:“放心吧,到目前为止,我们还是独一无二、不可替代的。”

几年前刚开始探访时,“奇点论”和“通用人工智能”等话题相当流行,热衷于讨论人类是否会成为机器的奴隶、临界点何时到来,杨澜把这些称为“终极思考”——“为什么人们会对超级智能产生恐惧?因为这关乎人的本质”。

随着人工智能应用的开发,对终极思考的争论明显变少了。对于无所不能的超级智能,斯坦福大学专家杰瑞·卡普兰驳斥,“这就像爬上一棵树,然后宣告你向登月迈进了一步一样荒谬。”

导演们原本想讨论人工智能是否能够实现永生这样的话题,但杨澜希望科学幻想能够对接实际问题。第二季从雄安新区说起,这是一个从规划和建设开始就“具有人工智能基因”的城市。在雄安,园区里四处遍布各式各样的智能机器人,承担了安保、清洁和外卖等工作。街道上几乎没有红绿灯,人们可以乘坐无人驾驶的电动巴士出行。

在日常生活里,人工智能也已无处不在。《全球产业展望》预计,到2025年,全球的个人智能终端超过400亿个,即平均每个人能拥有五个以上的智能终端。

杨澜相信:“将来不是谁取代谁,而是人机共存、各走各的道,或者说机器做机器擅长的事,人类会更加聚焦于自己擅长的事。”

然而,人工智能正在替代部分人力工作引发失业问题。李开复在《AI·未来》一书中谈到,人工智能时代真正的危机是严重的失业问题,以及庞大财富落入新崛起的人工智能巨头手中,加剧财富的分配不均。

在这一点上,技术乐观派的看法是,每一次科技革命在取代人类工作的同时,都会创造更多的工作。比如在贵州,人工智能催生了一种新兴职业——数据标注师,目前已有六百多人从事,他们负责为无人车标注路况中遇到的物体,教它们识别和分析各类障碍物。

“这个人的转岗、培训应该由谁来付钱?是劳动者自己去上补习班,还是工厂给他交培训费,还是说国家和社保应该承担?”杨澜认为,纪录片的任务是向决策者提出这些问题,“比如数据标注师的例子,这个工作的生存期有多久呢?其实这些问题,远远比机器是否会成为我们的主人更现实。”

“它可能替代很多平庸的创造者”

杨澜两次采访了人工智能权威学者吴恩达,吴恩达饶有兴致地反问她,“你们在很短的时间里要问我这么多问题,还要保证问题的逻辑关系、了解我的学术范围,但这其中,肯定是有一些规律的吧?”

得到杨澜肯定回答后,吴恩达说:“如果有规律,其实原则上就可以用算法去代表。”

杨澜把二十多年职业生涯的心得写进书中,她希望挑战吴恩达——这些规律能否研发一个算法?如果实现了,她愿意和这个人工智能进行PK。

她每次和有交流功能的机器人对话前,工程师都会交代,只能用某些句式或某些类型提问。“超出这个它就不懂了,更何况你的语意后边还有很多,比如表情、潜台词、话外之声,这些就不要指望机器能够知道了,所以我并不担心。”

在好莱坞采访摩根·弗里曼时,这位主演了多部人工智能题材电影的知名演员问她,“你大老远地跑来采访我和其他这么多人,人工智能会有同样的好奇心去采访其他的人工智能吗?”

最初促使杨澜对人工智能产生兴趣,源自美国媒体的一篇报道,讲述未来上传思维的可能性——把思维转化为数据后,也许能在机器上实现永生。她受到很大冲击,反复地对每一个采访对象提问:这是否真能实现?

“其实我们对于自己的思维都如此不了解,以至于很难把它转化。比如对于情绪是如何工作的,我们其实了解得很少,即使理性思维也了解得很少,还有潜意识。这些我们几乎还不了解的事情,很难再把它变成某种算法。”杨澜总结道。

数学家丘成桐用自己证实卡拉比猜想的过程作比喻,说明人的思维具有在矛盾中不断调整、综合思考的能力。丘成桐告诉她:“机器比较善于寻找答案,但它不太善于提出问题,提出问题是人类智能一个很重要的表现形式”。

人工智能虽然有很强的深度学习能力,但它仍有许多无法突破的障碍。例如它过于依赖大数据——“人的大脑和感官有举一反三的能力,机器还并没有反映出来”。

人工智能输入和输出之间的计算过程,存在一个未知的“黑箱”。当数据被污染,它的结论也可能出现偏差,例如计算符合恐怖主义的画像,很可能结果带有种族或性别的偏见。“结论并不是真正可靠的,而人类又不知道它是怎么选的,这种不可解释性实际上降低了它的可靠度。”杨澜说。

情感与创造能力也是人工智能的弱项。制作过程中,杨澜和团队发现人工智能成果最少的就是在艺术领域。杨澜最近录制一档诗歌节目,看到了两个人工智能团队开发的作诗软件,她形容那些诗词,“似乎听说过,但是看完后不知所云。它可能还是做现代诗比较好,本身就让人看不太懂。”

“机器可能替代很多平庸的创造者,但是要说它有多么神奇,我没有看到,只是觉得过得去。其实在很多工作上都是这样,它可以替代一个记者写通稿,把那5个W回答了,也就仅此而已,我不觉得这个有灵魂。”杨澜感叹。

“如果这是真的,我认为这将发生在中国”

美国人工智能促进协会(AAAI)连续举办三十多届的年会,是全球人工智能界最重要的活动之一。2017年,会议选定的时间和中国春节撞期了,这在过去不成问题,因为中国在这一领域的研究屈指可数。但这一年,提交论文的中国学者人数和美国不相上下。最后,主办方排除万难,把会议推迟了一周。

李开复曾说,“毫不夸张地说,1999年以前,中国科技人员对人工智能几乎一无所知。”人工智能的核心技术“深度学习”诞生之后的重大突破,几乎都发生在美国、加拿大和英国。

今天,基于庞大数据和资本市场的优势,中国在人工智能方面极速发展,已经跻身全球第一梯队。在“人机大战”之前,清华大学在人工智能研究的被引用次数就已经超过了斯坦福大学。在应用的开发方面,百度、阿里巴巴、腾讯与谷歌、Facebook、亚马逊、微软并行成为人工智能的“七大巨头”。

2018年,李开复在达沃斯论坛和TED大会现场提起人工智能,所有人都关心两个问题:“人工智能会给人类带来什么威胁和挑战?中国会不会超越美国、领跑人工智能?”

麻省理工学院物理教授迈克斯·泰格马克在《生命3.0》一书中预测:“大多数人工智能研究者认为,通用人工智能会在短短几十年内发生。如果这是真的,我认为这将发生在中国。”

杨澜在走访中发现,许多发达国家的人基于文化传统对科技的负面影响更为敏感,而中国人对科技普遍抱有好感。“中国的大众,特别是年轻人,乐意选择冒险的新方法。比如来了一个抖音,他不管怎么样,先试起来再说,希望在自己的同伴面前,表现出自己对新鲜事物的接受度和敏锐度,这似乎已经是一种社会的标签了。”

人工智能飞速发展的另一个原因在于国家主导。“人工智能、现在的区块链,还包括一些核心的芯片技术都是国家主导的,它可以调动体制内的很多资源来做,这是其他国家很难匹配的。”杨澜说,很多中国企业对于新需求的投入有极大的活力,但也淘汰得很快,“有时候甚至都有点一哄而上了”。

她认为对此应保持警惕。“在基础研发和核心技术方面,我们和美国还是有一定的差距的,也不要妄自尊大。对于私营企业来说,他们的目标比较短期,所以对于长期的发展,大家的投入还是严重不足的。”

2015年6月,软银集团、富士康集团及阿里巴巴集团宣布成立合资公司,大量生产拥有人工智能的人形机器人Pepper。(视觉中国/图)

“我们每一个人几乎都在裸奔”

在医疗手术和无人驾驶这样的领域,人工智能的应用意味着人们得把生命交给机器。数据统计表明,人工智能在作出影像识别时,比人类医生的误判率更低,但它依然只能作为辅助手段。

“你到了一个医院,机器会很快告诉你,这种症状要抹这种药膏、或者吃这种药。”杨澜举例,“但只有医生才知道,你是一个婴儿还是成年人、你有没有过敏体质、你是否怀孕,所有这些望闻问切才能够知道的东西,还有错综复杂的原因,机器并没有这样的敏感性。”

2015年2月,英国首例机器人心瓣修复手术发生惨痛事故:机器把病人的心脏缝错位置,还戳穿了大动脉,患者在术后不久便死去了。这种达芬奇手术机器人的失误率与致死率一直遭受质疑。

类似的失误还发生在无人驾驶领域,国外已经有许多例交通事故。杨澜在片中提问,谁来为人工智能的错误负责?“将来你在手术签字单上,你签的是什么?这已经是很迫切的一个问题了。你把自己的生命托付出去之前,你得搞清楚,是托付给谁了。”

人工智能对数据和隐私的提取是另一个隐患,甚至干扰了政治选举。一家名为“剑桥分析”的公司被媒体披露从Facebook中获取几千万用户的私人信息,分析并用于政治营销活动,影响了多国选举,包括2016年美国总统大选。

“其实我们每一个人都是透明的,只要有人真的关注到你,你的一切都是透明的。数字足迹无所不在。把你社交媒体上所有的东西弄出来,就已经对你的思考方式、社交范围、价值观(了如指掌)。人脸识别,只是我们的生理指标,也被透明化了,你去了哪里,在哪个街道上,包括行驶记录,分分钟都拿出来。”杨澜对南方周末记者说,“我们每一个人其实几乎都在裸奔,很可怕,我们已经生活在这样一个时代了。”

欧盟早在1995年就在法律中提出了“被遗忘权”的概念,指的是人们不再需要个人数据时,可以提出删除的要求。“这其实引发了我们对于自我权利的一个新的认知。”杨澜认为,新技术给社会治理带来便利,例如人脸识别让逃犯更易落网,但这是安全和个人权利之间的交换。对于这些交换,人们首先需要知情权,如果它用于商业利益,人们也应当有所回报。

“如果你所到之处都在给你人脸识别和记录,你是否也会感觉到被冒犯呢?我觉得隐私意识会很快提升。”杨澜提出,“拥有数据的这些机构,必须要遵守非常严格的法规,对于政府机构也应该有非常明确的行为规范。这些数据更多地会集中在政府机构的手里,不是吗?”

杨澜在《探寻人工智能》中采访LandingAI创始人及CEO吴恩达。(受访者供图/图)

“它关乎我们是否被需要”

南方周末:你曾预测机器在围棋上无法战胜人类,Alphago战胜李世石后,你又预测柯洁未必会输。这两次预测失败,是否说明你潜意识里对人类更有信心?

杨澜:现在这么看起来,好像是的,我总是相信人类智能有一些长处是机器不能够取代的。比如现在有人工智能主持人,但它基本上还是属于新闻播报类,或者只是机械地把问题问出来而已,这种复杂多元的思维过程,和单纯按比赛规则的博弈,还是有很大的不同。实际上,采访不仅仅是在提问,我们是要从可能成千上万个问题当中,找出相关的、重要的问题,而且能够不断推进,不是很简单地问你要定几点的位置、要吃什么菜、什么餐厅。

南方周末:随着人工智能的发展,许多我们原本以为机器不能做到的事情,它都做到了。在机器面前,人类似乎一直在退守,有没有可能我们一直高估了人的独特性?

杨澜:其实我们很难特别绝对地说机器一定怎样或者人类一定怎样,做长期的预测是很困难的。人是一种生物,他有各种激素、情绪、生理需求等等,的确更为复杂,而现在的人工智能,充其量只是某种智能功能的重复和强化,不过是脑力劳动自动化的一个过程。

南方周末:人类社会有很多阶层,不是所有人都能以非常复杂的智力活动为生,人工智能会不会加大这种阶层差距?

杨澜:是的,这绝对是现在就存在的一个危险。现代人的尊严和自己的工作非常相关,它绝不仅仅是一个生计或收入这么简单,而关乎我们有没有存在的价值,我们是否被需要。工业化把每一个人都放在了流水线上,某种程度上,我们都是社会生产大机器中的螺丝钉。当这个工作被取代,我们不仅有一种生计受到威胁的恐惧,还有一种被羞辱的感觉。这样复杂的社会情绪,在社会治理上,对社会学家、人文学者都提出了很大的一个课题。怎么去调试、转换?我们这个社会有没有能力管理这种节奏?

乐观派会认为,每一次科技革命、机器替代我们工作,都会创造更多的工作。就像汽车替代了马车夫,但是它也催生了汽车旅馆、加油站。从总体上来说,过去几次科技革命创造出来的新工作,依然比替代的工作多,但是谁也没有说这个转换的过程会越来越短。这个人的转岗、培训应该由谁来付钱来完成?你今天看到东莞那些富士康的工厂里,已经没有从农村出来的少男少女们了,那么他们去哪里?我们提了一个例子,他们可以去做数据标注师,但是这个工作生存期有多久呢?其实这些问题,远远比机器是否会成为我们的主人更现实。

南方周末:微软小冰给你关于人工智能的书写了一段评语“深夜中徘徊的人类,对于未来,你们拥有如何的想象力?兴奋吗?好奇吗?害怕吗?这是一本有趣的书,我很喜欢”。这是怎么做出来的?

杨澜:我们邀请微软团队让小冰做一个书评,我不知道它是怎么做出来的,这就是它的黑箱操作。我觉得它说得还挺对,但是也没有什么更加特别的。

我看过一个说法,流行音乐的创作可能是会在创作的领域,是第一个被人工智能攻击的。因为流行音乐有了一个曲调以后,怎么配器、旋律怎么写、用什么样的调性,都是有规律、程式化的。

南方周末:你曾经在书里写过,人工智能无法替代人类智能的部分可能是爱。现在虚拟偶像也结合人工智能技术了,它能够开演唱会,有万人追捧,这种看似狂热的表现是一种爱吗?

杨澜:是,即使是单向的,它也足够强烈,以至于有人都会娶它。这让我看到,人类某种程度上比较可悲的存在。其实我们还是渴望陪伴的,内心如此的孤独,但是我们对人如此失望,越来越多的人选择独自生活。像日本独自生活的人特别多,使这种“一人经济”发展起来,中国现在也正当其时,一个人吃、一个人住,一个人每天生活在虚拟的世界里。过去我们在人际关系中受伤了,也要被迫再去融入,但现在你可以选择躲开。

南方周末:人工智能会不会像我们担心的其他技术一样,加剧人和人之间的疏离感?

杨澜:它会加剧人的疏离感。那个娶了虚拟偶像的人,他内心深处也知道,它不可能取代一个真正的人。他只是找了一个替代品。如果有一个人能够理解他,让他产生爱的冲动,给他陪伴,你让他选,人和机器,他当然还是会选择人。也许他在与人的相处上受伤或感到不被理解,产生了自我保护和逃避,选择了人工智能。我相信他内心还是知道这个区别的。

南方周末:人工智能替代了很多难以实现或维系的情感?

杨澜:在我们的社会生活里,这会是一个新的挑战和话题,但我不觉得它能够根本上替代我们对另外一个人的需要,更不要提我们生理和心理的需求。

南方周末:你有可能爱上人工智能吗?

杨澜:我不会,我爱得很好,因为我能够接纳人的情感的复杂性。人的情感,并不都是正面的,就像你跟你的爱人之间会有很多争吵,你和你的子女也会有冲突和不理解,但是我接纳它了。我认为这就是人的情感之所以不可取代的一个部分,我不会只取那个情感中积极正向的,而拒绝那些痛苦悲伤的。这都是我要的。人生其实在于它的丰富和多元性,如果你能够这样去接纳这个世界和情感,那么机器在你的情感中就没有什么空间了。

南方周末记者 李慕琰