图片来源:Unsplash
Z Highlights:
创新的脑机接口技术:通过Neuralink,Elon Musk展示了如何通过植入设备帮助大脑或脊柱损伤的患者恢复功能,例如通过思考来操作光标或玩电子游戏。
数字超级智能的发展:Musk强调了通信带宽在AI对齐中的重要性,认为提高通信速度可以减少AI带来的风险,同时实现大脑和脊柱的修复。
x.AI的追求:Musk对现有AI项目如OpenAI和Google Gemini的批评,提出x.AI的目标是最大化真理和好奇心,避免政治正确的影响。
对AI监管的观点:Musk认为对大型AI模型进行某种形式的监管是必要的,最重要的是确保AI的诚实和准确。
SpaceX的未来计划:包括在五年内将无人驾驶星舰送上火星,以及在十年内实现人类登上火星的目标。
火星移民的必要性:Musk强调了将人类变为多星球物种的重要性,以应对未来可能发生的自然灾难和确保意识的延续。
Neuralink项目
Bet-David:Elon,我用了一个灵感来自伍迪·艾伦电影的标题——“你想知道关于Elon的一切,但不敢问”。这就是我们今天对话的主题。不过实际上,话题并不是关于你个人,而是关于你所做的事情。我会马上从Neuralink开始。我先提两三个问题来活跃一下气氛,因为大家可能有些害羞,还没准备好提问。所以我需要慢慢让场子热起来。我想问关于Neuralink的问题。但在提问之前,我希望我们先看一个病人的简短视频。
“A:Nolan,你是通过想象光标的位置来移动它,还是用眼睛?
B:不,只是通过想象。
A:哇,太神奇了。也就是说你根本不需要用眼睛追踪它,只是看着它。
B:对,我可以随意移动光标,不需要盯着它。完全是我在控制。而且你可以下棋。
A:你可以玩电子游戏。那你觉得它还有哪些有用的应用?
B:太多了。我可以发送所有的电子邮件,安排日程,回复所有人。我还在读书,听有声书,各种各样的事情。而且这不需要太多的努力”
Bet-David:Elon,看到这一幕一定很让人感动。我觉得我们可以帮助很多有脑损伤的人。
Musk:通过一个可植入的设备,我们可以解决几乎所有的大脑或脊柱损伤。首先,我们有一个叫做“心灵感应”的功能,可以让你仅通过思考来使用手机或电脑。比如说,你可以闭着眼睛移动光标,它读取的是来自运动皮层和大脑的信号。下一个产品是“盲视”,它可以让那些失去双眼或完全失明的人重新看到东西。这是通过直接与大脑的视觉处理区域接口来实现的。我觉得这是一个很有趣的进展。最终,Neuralink的目标是拥有一个高带宽接口,以减轻数字超级智能的风险。我并不是说它一定能减轻这种风险,但它可能会有所帮助。这有点深奥。
但是,我认为从长远来看,限制AI对齐的关键因素可能是带宽。我们与数字第三自我的交流速度有多快?我们已经有一个位于边缘系统和皮层之上的数字层,就是我们的手机、电脑和其他电子设备。但我们与它们的交流速度非常慢。人类每秒能够持续输出的比特数远低于10比特。如果考虑到24小时的时间段,这个速度甚至低于每秒5比特。而计算机可以以每秒数万亿比特的速度交流。
所以,我认为提高通信带宽对于AI对齐非常重要,需要将通信带宽提高多个数量级。在这个过程中,它还会解决大脑和脊柱损伤的问题。我认为最终,它有潜力让身体重新恢复活力。你可以从一个Neuralink获取运动皮层的信号,然后将其发送到另一个位于脊髓断裂处的Neuralink。你基本上是在传递运动皮层和感觉皮层的信号。所以你需要到达躯体感觉皮层和运动皮层,然后你可以传递信号,这样就能让人重新行走。我认为这是非常深远的。我确信从物理上是可行的。
AI对齐的挑战与xAI的愿景
Bet-David:这真是令人印象深刻。说实话,我们应该为此鼓掌,因为这确实在为人类和社会做贡献。我想立即谈谈你提到的XAI项目。这似乎是因为你对OpenAI的表现感到不满而诞生的。你认为还有更好的方法。也许你可以详细说明一下。首先,你为什么对OpenAI感到沮丧?有哪些问题?其次,你希望通过xAI实现什么目标?
Musk:嗯,我对所有主要的AI项目都有一些担忧。显然,最大的两个玩家是Google Gemini和与Microsoft合作的OpenAI。最大的两家是Google DeepMind和OpenAI,而Meta则稍微靠后一点。我担心的是,这看似是个小问题,但实际上是个大问题,就是它们并没有最大限度地追求真理。
它们迎合了政治正确。举个例子,当Google Gemini发布时,有人问它,误称Caitlyn Jenner的性别和全球热核战争哪个更糟糕?它回答说,误称Caitlyn Jenner的性别。滑稽的是,连Caitlyn Jenner自己都说,请误称我的性别,这比核战争好得多。所以,如果一个AI被训练得如此政治正确,并且真的会做出这样的疯狂声明,OpenAI也有类似的问题。
OpenAI的问题也是类似的。我认为这是非常危险的,因为AI可能会得出结论,避免误称性别的最佳方法是摧毁所有人类,这样误称性别就不可能发生了。
所以,你可以想到一些反乌托邦的结果。因此,我认为对于AI来说,最安全的做法是最大限度地追求真理,即使真理不受欢迎,这非常重要。另一个关键点是AI必须非常好奇。如果AI既追求真理又充满好奇心,这将对人类最有益,因为它会希望看到并促进人类的发展,观察人类如何演变。这些看起来可能是小事,但实际上非常重要。而这些在现有的AI中并没有体现出来。
那些AI只是迎合,它们基本上被重新训练来撒谎。我认为训练超级智能去欺骗是非常危险的。因此,XAI的目标是尽可能追求真理,即使真理不受欢迎。我认为这非常重要。
例如,有人让Gemini呈现美国的开国元勋,它将他们描绘成一个多元化的群体。所以它显示了一幅乔治·华盛顿是黑人的图片。乔治·华盛顿并不是黑人。有人显然在测试Gemini,于是他们说,那现在请呈现二战中的党卫军成员。结果它显示的是一群多元化的女性。所以这显然是不正确的,这是一个谎言。
Bet-David:好的,我明白你的意思。在这次会议之前,我们和Yoshua Bengio聊过,你很了解他。你和Yoshua去年签署了一份声明,要求暂停开发AI。但显然,这份声明并没有得到落实。你现在在暂停吗?那么你能详细解释一下你想要什么吗?
Musk:我预料到这份声明是徒劳的。我原以为它会有效。我认为我们应该暂停。但是我认为他们会暂停哪怕一秒钟吗?绝对不可能。要么做一个旁观者,要么参与其中。但不管我是否喜欢,数字超级智能的到来是不可避免的。所以,要么参与并尝试构建对人类最有益的AI,要么看着别人去做并担心它的构建方式,因为我认为它现在的构建方式不对。你应该把AI看作一种逐渐成长的智力,就像抚养孩子一样。你教孩子什么,数字超级智能也会相应地成长。
重要的是你所做的事情,你的鼓励和阻止,以及你教给它什么是好是坏。这就像你用价值观来塑造它。而我担心的是微软或者谷歌在编程时所注入的价值观。这些例子并不是虚构的,它们确实发生过。
Bet-David:我不想让观众失望,而且我承诺过我们会有一个互动环节,让大家可以直接向你提问。所以我现在先停止提问,如果他们没有问题,我再继续。请简短提问。开始吧。
监管与AI透明度
Audience: 嗨,Elon。我是Olivia,来自VivaTech。我们有一个名为“The Good Hack”的倡议,向与会者询问如何负责任地开发AI。所以我的问题是,如何确保AI开发在各个阶段保持透明和问责,包括你的xAI以及其他项目?谢谢。
Musk:我一直认为对大型模型进行某种监管是必要的。其实我很久以前就这么说过了。监管的方式非常重要。我回到之前说的,我认为最重要的是AI应该被训练成诚实的,而不是政治正确的。因为政治正确往往不是真实的,这意味着你在编程AI去撒谎,这会非常糟糕地反噬。所以,我一直在强调这一点,正如俗话所说,诚实是最好的政策。这非常重要。我确实担心监管者不会做出正确的决定,他们会过于担心某些人类的愚蠢行为。我会鼓励监管者说,最重要的是确保AI的准确和诚实。这是最重要的规则。
Bet-David:诚实是最好的政策。你和Shoaib Anjou的看法完全一致,但他有不同的方法来实现这一点。现在请第二组提问。
个人形象与媒体报道
Audience: Elon,我叫Marina。我们只了解你在公众面前的一部分,那是我们喜欢的一个形象,一个好的形象。你会检查自己所说和所做的一切是否符合这个形象吗?如果会,你是怎么做的?谢谢。
Musk:其实我已经不怎么关注了。我很少看关于我的新闻文章。实际上,甚至Walter Isaacson写的那本书,我问Walter,我应该读这本书吗?他说不。所以我甚至没有读那本关于我的书。所以我实际上不太清楚公众对我的看法。只是新闻的本质就是耸人听闻,它往往会有些夸张,因为越是听起来疯狂的东西,越能吸引点击量。
所以,当你看到一篇关于你熟悉的事情的新闻报道时,问问自己这篇报道有多准确,我想你会发现,其实并不太准确。这对所有事情都是如此。媒体有一种疯狂追求点击量的倾向。因此,标题越是离谱,获得的点击量就越多。所以,这并不是说媒体报道的事情都不真实,只是最好把媒体看作一个点击量最大化的机器,而不是一个真相最大化的机器。所以,我认为最好是看某人自己说的话,而不是关于他们的报道。
Audience: Elon Musk,这里是CNBC的Karen Cho。外界对你在比亚迪这样的公司能生产约一万美元汽车的市场中,推动低成本电动汽车的承诺仍有疑问。拜登政府的100%关税是否是你推进这款低成本电动汽车的绿灯?如果是的话,交付的时间表是什么?
Musk:显然,对于一个上市公司来说,回答这样的重要问题对我来说确实很困难。我总是被问到那些直接影响股价的问题,这并不是我最喜欢回答的问题。我认为观众也不感兴趣。但我想说的是,这些关税既不是Tesla要求的,也不是我要求的。
事实上,当这些关税宣布时,我感到很惊讶。Tesla在中国市场上没有关税和差别化支持,也能很好地竞争。所以总体来说,我支持没有关税。我也支持取消电动汽车的税收激励,但前提是石油和天然气的税收激励也必须取消。所以我支持没有关税,也没有对电动汽车或石油和天然气的激励。如果这些都取消,我认为那将是最好的。
Bet-David:所以回到你之前提到的真相问题。你希望的是价格的真实性。
Musk:我认为,阻碍自由交换或扭曲市场的事情都是不好的。
未来计划与时间旅行
Audience: Elon,谢谢你来到这里。我想问,如果你有一台时间旅行机,能回到过去和年轻时的自己对话,你会选择回到几岁?你会对他说什么?另外,新款Tesla出来时,我能搭乘一程吗?
Musk:你知道,时间旅行有个经典问题,如果你回去告诉自己一些事情,可能会以意想不到的方式影响结果,甚至可能是坏的。所以,综合考虑,我对事情的结果还是满意的。所以我可能不会做任何事情,因为你不知道你对年轻的自己说的好意,是否会导致更糟糕的结果。所以我可能会好奇地看看年轻的自己,但我会保持隐形,不说任何话。你永远不知道事情会如何发展。至于Roadster,当然可以,我会确保你能搭上一程。如果新车上市时你给我发邮件,我会确保你能搭上一程。
Bet-David:如果你是法国人,你会说最好的年龄是恋爱的时候,因为当我们恋爱时,我们永远是20岁。
Musk:其实,我有一点法国血统。当我做23andMe基因检测时,虽然我的主要血统是英国,但23andMe显示我第二多的血统是法国。
Bet-David:好的,太棒了。我们会确保你随时可以成为法国公民。现在请第五组提问。
SpaceX与多星球文明
图片来源:Unsplash
Audience: 嗨,你好。我是Delphine Urbain,Orbital Lux的总裁兼创始人,我们正在将航空航天和奢侈品结合起来。我想知道你对最近Estée Lauder和NASA或Copenhagen和NASA的合作有什么看法,你是否有计划与SpaceX进行类似的合作?如果有,你想开发什么?谢谢。
Musk:不幸的是,我对你提到的那些合作不太熟悉。SpaceX目前非常专注于Starlink星座计划,用于互联网连接,我认为它为世界做了很多好事。它将互联网带到没有互联网或互联网非常昂贵的地方。我认为这是一个巨大的推动力,让人们能够将他们的商品和服务卖到国际市场。
即使你在一个偏远的村庄,你仍然可以销售你的商品和服务。所以Starlink非常棒。当然,SpaceX的长期目标是实现多星球生活,比如在火星上生活。也许这听起来有些玄妙,但SpaceX的目标是超越单一行星的生活。人们经常问我是否认为地球上有外星人。我经常被问到这个问题。我没有看到任何外星人的证据。我向你保证,如果我看到任何外星人的证据,我会立即在X平台上发布,你可以确信这一点。
但没有外星人这个问题让我担忧,因为这意味着也许我们在这个银河系中是孤独的。也许只有我们,或者至少在这个银河系中,只有我们是有意识的生物。如果是这样的话,意识是非常脆弱的。我们应该尽一切努力保护和延续意识之光,在地球上保护它,并延续到其他星球。
有人认为我们没有遇到外星人,可能是因为在我们的银河系中,没有任何文明能够超越它们的母星。这可以称之为费米单行星过滤器。恩里科·费米是一位伟大的意大利物理学家,他提出了一个深刻的问题:外星人在哪里?所以我们需要成为一个可持续的多行星文明。这是地球四十五亿年历史中第一次有可能实现这一目标。在此之前,从未有过这样的可能。所以我认为我们要在有可能的时候成为可持续的多行星文明。种机会窗口可能会开放很长时间,但也可能只开放很短时间。这就是SpaceX的目标。
Bet-David:有些人认为你是外星人。
Musk:我是外星人。
Bet-David:你是吗?现在真相大白了。
Musk:是的。我一直告诉大家我是外星人,但没有人相信我。
Audience:嗨,Elon。我是加拿大人,来自Farpoint AI的Ryan。我的问题是关于xAI的。开放源代码AI的竞争对那些没有100,000个H100s的人很有帮助。XAI是否可以承诺发布一个超越当前最好的开源模型的模型?不一定是你们最好的模型,但如果你们能超越当前开源模型的顶级模型,是否可以承诺发布这个模型以造福我们?
Musk:是的,我会承诺这么做。
Audience:你好,Elon。我叫Katya,是初创公司Chat and Charge的创始人。我们通过电动汽车充电来连接人们,因为在欧洲大家仍然觉得充电站不足。我的问题是,你们未来五年关于电动汽车充电基础设施的计划是什么?
Musk:其实我认为现在的充电基础设施已经相当完善了。使用Tesla超级充电站,你可以在整个欧洲旅行,实际上欧洲也有很多很不错的第三方超级充电站。你可以在北美、中国和日本的任何地方旅行。所以我认为,高速充电自由旅行的问题在世界大部分地区已经解决,并且将会在所有地方得到解决。
Audience:嗨,Elon。我是Oliver Vroom,我在乌得勒支运营一个AI安全小组。我想知道如何说服人们了解AI的危险,并且我能和XAI安全团队聊聊吗?
Musk:关于数字超级智能。正如我之前所说,我认为最大的问题是AI必须被严格训练成诚实和好奇的。我已经思考AI安全问题很长时间了。将明确的道德编程进AI是一个挑战,有时人们称之为Waluigi问题。如果你编程了Luigi,你可以反转它并创建Waluigi。但你不能反转物理现实的真相。你不能反转物理定律和逻辑。所以我认为这是一条更好的路径。
所以,我认为监管者应该关注的是,AI是否被严格训练成诚实的?它是否给出一个最可能正确并承认误差的答案?我认为这是AI的最佳路径,也是我们在XAI所努力的目标。xAI是一家新公司,仍然有很多追赶的工作要做,才能拥有一个能与Google DeepMind和Microsoft OpenAI竞争的AI。我认为也许在今年年底我们会达到这个目标,但目前的首要任务是拥有一个有竞争力的AI。
我们需要在它具有与其他AI相当的能力时才开始担心安全问题。所以,我一直在强调真相。这非常重要。有时人们会问,是否有客观真相?我说,在很多情况下是有的。如果你谈论的是物理学,是有客观真相的,或者你可以说有一个最高概率的真相。所以你可以说,最可能的真相是什么,并承认误差?在物理学中,人们会说,这个假设在Five-sigma误差范围内是正确的。如果实验结果在Five-sigma范围内,那它可能是正确的。
虽然我在重复,但我必须强调,诚实是最好的政策。但是,如果某些事情不合时宜,AI会变得政治正确,而这实际上是在撒谎。
Audience:你好,Elon。我叫Shan,是巴黎大学的学生。我们发现很多工作正在被AI取代。你担心你的工作会被AI取代吗?如果不担心,为什么?如果你的工作被AI取代了,你会做什么?
Musk:这确实涉及到一些存在性的问题。在一种良性情况下,可能我们都不需要工作了。但在这种情况下,大家都会有很高的收入,不是基本收入,而是高收入。商品和服务不会短缺。我认为良性情况是最可能发生的,可能有80%的概率。问题不会是缺少商品或服务。
每个人都能获得他们想要的商品和服务。真正的问题是生活的意义。如果计算机和机器人能比你做得更好,那么你的生活还有意义吗?这就是在良性情况下的问题。而在负面情况下,我们会有大麻烦。所以我认为人类可能仍然有一个角色,那就是我们可能会给AI赋予意义。
就像我们的大脑如何工作一样,我们有边缘系统,负责本能和情感,还有皮层,负责思考和计划。但皮层不断试图让边缘系统感到满意。也许AI也是这样,AI试图让我们的皮层满意,而皮层试图让我们的边缘系统满意。也许我们是给AI赋予意义或目的的存在。所以,从长远来看,在良性情况下,任何人的工作都是可选的。如果你想工作,那它就像是一种爱好,你可以选择去工作。反之,AI和机器人会提供你想要的任何商品和服务。
Bet-David:好吧,所以你认为未来没有人需要工作吗?
Musk:这是最有可能的结果。如果你有兴趣读一些科幻小说,那么Iain Banks的《文化》系列是对超级智能AI未来最准确的描述。这可能是对未来AI的最佳想象。
图片来源:Unsplash
AI的社会影响
Audience:你好,Musk先生。首先,恭喜你的孩子毕业。我的问题是,你认为AI会对下一代孩子的教育产生影响吗?特别是在价值观和道德方面?
Musk:我认为父母仍然会对孩子的价值观和道德负责。我确实认为AI会极大地影响教育,因为AI是一个非常博学的老师,非常有耐心,几乎总是正确的,并且可以根据孩子的情况量身定制课程。这就像每个孩子都有一个爱因斯坦作为老师,会产生深远的影响。我确实担心现在的孩子们被社交媒体所影响,而社交媒体算法基本上是多巴胺最大化器。它们通过让你不断看屏幕来最大化多巴胺的分泌。所以我会敦促父母限制孩子使用社交媒体的时间。因为他们正被一个最大化多巴胺的AI所影响。
Audience:你好,Elon。我叫Shahrukh,我有一个关于Neuralink的具体问题。你认为在未来,通过Neuralink的帮助,你能使用人类脑扫描数据开发出世界上最强大、最有创造力的AI吗?如果你喜欢我的问题,我有生之年能参观一次空间站吗?
Musk:关于Neuralink,通过人类脑扫描数据来开发强大而有创造力的AI是可能的。我们正在努力推动这方面的技术进步,希望能让每个人都能从中受益。
至于参观空间站,SpaceX的目标是让任何想去火星或月球的人都能负担得起,让地球上很大一部分人都有机会实现这个梦想。为了在火星上建立自给自足的文明,我们需要把很多人送到火星。我认为这是为了长期维持意识的生存非常重要的事情。随着技术的进步,你有机会参观空间站的可能性会越来越大。
因为最终地球上会发生一些事情,会像当年对恐龙那样消灭我们所知的生命,这在化石记录中已经发生了很多次。所以,希望这不会很快发生,但最终会有某种自然灾难消灭地球上的生命,即使我们自己不消灭它。因此,我认为在我们有能力的时候,让生命多星球化是非常重要的。这意味着要尽可能降低移居火星和月球的成本。
Audience:你好,我叫Mara,是Unlock的CEO和创始人。我的问题是关于非洲的技术发展。上次我和一个你可能认识的人进行了对话,他被《时代杂志》提名为全球AI影响力人物。鉴于非洲在技术方面越来越大的潜力,你预见到有哪些举措、合作或贡献?
Musk:这确实很难说。我确实认为非洲有很大的潜力。阻碍非洲发展的一个主要因素是缺乏互联网连接,而Starlink正在帮助解决这个问题。通过Starlink,人们可以学习任何东西,并融入全球文化。如果没有连接,你只能通过写信等方式与外界沟通。所以,连接对于非洲和其他地方成为全球文化的一部分,并参与AI和其他活动,是至关重要的。
Audience:你好,我是Louis-Nicolas,我正在开发一个非常真实和精确的AI来帮助企业家发展和管理他们的业务。但我对旅行和冒险非常热衷。我想问你,我们什么时候能去火星?
Musk:我想我们有望在五年内将第一艘无人驾驶的星舰降落在火星上,同时也会降落在月球上。我认为我们将在五年内把第一批人送上月球,第一批人类登上火星可能在十年内。也许不到十年,可能是七八年。
图片来源:Unsplash
Audience:你好,Elon。我有一个简短的问题。我想知道,关于电动出行,Elon Musk和Tesla在未来几年有什么创新项目?谢谢。
Musk:我们不会在问答环节中发布产品,那没有意义。我们有专门的产品发布会。但显然,有些事情大家已经知道了,比如机器人出租车、网络出租车,以及Optimus人形机器人。这些都是非常重要的事情。即使你只听说过Tesla的这些事情,你也会知道它们将极其深远。一大批自主车辆,基本上是一个通用的自动驾驶解决方案和一个通用的人形机器人解决方案。这两件事都是非常深远的。
Audience:Elon Musk,我是Frederic。几年前你说过Ariane 5火箭没有前途。你会对即将在七月发射、更具成本效益的Ariane 6火箭说同样的话吗?谢谢。
Musk:任何火箭如果不能至少大部分可重复使用,都没有竞争机会。Falcon 9的助推器、主级和整流罩都是重复使用的。因此,约80%的火箭部件是可以重复使用和再飞行的。一次性火箭根本无法与可重复使用的火箭竞争。你可以把这应用到任何其他领域。
如果一家公司制造可重复使用的飞机,或者80%可重复使用的飞机,另一家公司制造一次性使用的飞机,那么制造一次性飞机的公司将根本没有生意,因为每次飞行都得买一架新飞机。这就是为什么多年来我一直说,开发不可重复使用的火箭完全没有意义。
Audience:感谢。QuickChat的Philip。我有个问题想问,人们喜欢ChatGPT,但普遍不喜欢网站右下角的聊天机器人体验。需要做些什么来弥合这种差距?
Musk:我不确定是否完全理解你的问题。我同意,ChatGPT在聊天方面确实很出色。但正如我所说,我担心它不够严格追求真相,这是一个主要的担忧。不过,XAI的Grok将会尽力严格追求真相。此外,我们还想让Grok成为最有趣的AI。所以我觉得,如果我们注定要消失,至少我们应该笑着离开。因此我们努力让Grok成为最有趣的AI。
Bet-David:非常感谢。在你离开之前,请用一个词表达你最大的希望和最大的恐惧。
Musk:我想我可以用一个词来表达我最大的希望,那就是火星,火星会确保意识能存续很长时间。我最大的恐惧用一个词来说,就是AI。
原视频:Elon Musk's Plans STUN Everyone
https://www.youtube.com/watch?v=O1CoXF_AdQA
编译:祁航
-----------END-----------
关于Z Potentials
🚀 我们正在招募新一期的Z Explorer