AI有种1994年互联网的颠覆性气息 | 2024顶科协奖“智能科学或数学奖”得主连线实录,相约十月顶科论坛

图片



2024世界顶尖科学家协会奖(简称顶科协奖)9月12日在上海揭晓——


“智能科学或数学奖”授予康奈尔大学Jon Kleinberg教授

“生命科学或医学奖”授予约翰斯·霍普金斯大学Jeremy Nathans教授


图片


2024顶科协奖新闻发布会首设获奖者连线环节。现场连线中,两位获奖者分享了他们获奖的喜悦和科研感想,并表示非常期待10月的上海之行。

届时,隆重的2024顶科协奖颁奖盛典将与2024世界顶尖科学家论坛开幕式同时举行,两位获奖者也将参加精彩的获奖者系列交流活动。


我们将分两期分享两位获奖者连线访谈实录:



获奖者访谈

图片


Q:当下有很多人对技术发展非常乐观,也有很多人没有意识到技术发展会导致什么变化,您认为哪些伦理问题最为重要和紧迫?


Jon Kleinberg:

这是我们这个领域正在思考和努力解决的核心问题之一。当我们思考算法的使用时,应该将算法视为强大的概念、智力的工具——早在计算机出现之前就已经存在了。用地图导航、用算术记录家庭或公司的账目、做加减乘除等,任何循序渐进的程序都是一种算法

但是,计算机确实加速了算法进入生活的许多部分。它使算法的规模扩大,从而在我们无法想象的规模上运行系统和社会进程。因此,就像大多数在这种规模下运行的强大工具一样,算法可以产生巨大的效益,也可以造成巨大的危害。这取决于我们在设计中做出的选择。因此,我认为这是我们工作的关键问题。


当我们思考以这种方式使用功能强大的工具所引发的伦理问题时,会发现问题有很多类别。在康奈尔大学讲授此类主题的入门课程时,我们通常会着重从几个角度来探讨:


首先是算法成为“决策者”、做出与人有关的决策时,我们如何定义“做出公平和相对公平的决策”?

第二个角度是算法作为敏感信息的存储库。鉴于许多通过机器学习和人工智能训练出来的算法,其背后都有大量的数据支撑,我们该如何保护这些信息的完整性,以及数据所代表的人的利益?

最后,当我们都上网在大型平台上消费新闻,向熟人、朋友和亲人发送信息,发表自己的观点让全世界都能看到时,算法就成了交流和自我表达的机制。我们不禁要问,我们的设计选择会如何影响哪些东西会被关注,哪些东西会被看到?


所有这些都是非常深奥的问题,甚至连基本定义都是具有挑战性的辩论话题,我认为我们所有人都需要为未来的发展做出贡献。



Q:如何理解算法对世界的影响?我们对大数据的使用会纠正我们的偏见,还是会让事情变得更糟?


Jon Kleinberg:

算法是一种工具,随着时间的推移,我们一直在磨炼和完善它。如果追溯到几个世纪以前,复杂问题的数学化使得记录、保存、规划、资源分配等社会功能成为可能。但我们既看到了这种方法的好处,也看到了其潜在的危害。算法让我们能够把手工操作的事情,以一种更大规模、更高效率的方式来完成,而且还能以一种人类根本无法做到的一致性来完成


这就意味着,既然算法是在我们不在场的情况下做出决定,我们就必须在使用抽象概念时更加小心谨慎,这样算法做出的目标和选择才是我们真正想要的。

例如,用于分配资源和决定人员的算法,可以根据我们赋予它们的目标进行非常有效的优化。但它们无法自行定义这些目标。这部分取决于我们,我们创造了算法运行的形式,它在其中执行


因此,如何利用算法来实现社会目标,将永远是技术层面的算法设计者、社会层面的政策制定者和广大公众之间的持续对话。



Q:你认为人工智能是泡沫还是需求是可持续的?


Jon Kleinberg:

每个从事计算工作的人很早以前就已经学会了要谨慎预测,进步的速度往往快于预期,我们最终会陷入意想不到的境地。关于人工智能的问题,我认为有些是过去2年时间尺度上的深刻变化,有些则是过去12至14年时间尺度上的深刻变化。


回溯到 2010 年到 2012 年,我们看到的是,由于人工智能的突然成功,以及在巨大数据集上训练的深度神经网络,某些从20世纪50、60年代就被宣布为挑战性问题的问题突然开始得到解决,其进展之快着实让人大吃一惊,对吗?


这些问题包括识别图像中的物体、将人类语言的声音信号转化为书面文字、提取一段文字并尝试总结其内容……于是,我们有了人脸识别、语音识别等应用。


在2010年后长达10年的时间里,人工智能的发展非常迅速。当时的一个明确目标就是,人工智不仅要识别数据或进行分类,还要生成数据。这就是生成式人工智能一词的由来。过去2、3年里的突破,我认为是深度神经网络10年发展的顶峰。


问题是,接下来走向何方?我认为有些变化是深刻的,而且会持续下去。我们现在拥有了一些强大工具,能自动完成一些曾以为不可能自动完成的任务。但更不明确的是,我们将在它们的基础上构建什么?


我认为,现在这个时期是具有颠覆性的,就像 1993、 1994 年万维网早期也具有类似的颠覆性。1994 年我在读研究生,看着网络带来的所有变化。我当时有一种感觉,1994 年已经发生了很多事情,但我认为我们所忽略的是思考还有多少事情尚未发生?


我们当时应该预测一下未来10年。到 2004 年时,1994年的东西都已经看不到了。它们成了网络搜索、社交媒体、推荐系统的基础设施,成了2004的基石。


如果你把1994年类比到今天正在发生的事情,又一次,基石正在建立。我认为这才是这个领域需要继续关注的:既要关注建立这些结构的机会,同时也要以负责任的态度和符合社会利益的方式去建构。



Q:您的研究横跨多个领域,您是如何开始注意到这些领域之间的深层联系的?在促进跨学科合作方面,对您来说最大的挑战是什么,您是如何克服的?

 

Jon Kleinberg:

在上世纪70、80年代,计算机的重点其实主要是计算机。而到了90 年代,计算机突然变成了连接、网络和系统,成为交流和自我表达的平台。


很显然,为了理解网络和网络上的内容,为了以一种对人们有用的方式利用网络,我们需要借鉴许多领域的知识,包括解决技术问题的计算机、数学和统计学,以及社会科学领域、经济学、社会学、心理学、政治学等许多领域的知识,以便理解正在发生的行为、社会和市场动态,然后结合法律和政策去思考社会对这些变化的反应。


这种跨学科的工作显然是非常具有挑战性的,要消除方法、培训和术语方面的障碍,跨越这些不同的领域。就像Nathans教授刚才所说的,互动、对话和交谈在科学研究中十分重要。


对我来说,从计算机到经济学、社会学再到法学,等等,跨越这些跨学科鸿沟确实有赖于在这些领域找到合作者。我的一些最亲密的合作者都来自其他学科,他们思考问题的方式与我真正不同,但不知何故我有能力与他们发展出一种共同语言,这样我们就能以一种最终对彼此都有意义的方式来比较观点。





编    辑:秣  马

佳  莹

顶科协奖