划重点
- 1
在特朗普遭遇暗杀未遂事件后，马斯克旗下AI机器人发布了多条误导性新闻摘要。
- 2
马斯克对Grok给予了很大期望，希望人们能够通过它获取新闻资讯，进而颠覆传统媒体。
- 3
此次误报事件凸显了Grok在设计上的不足，其依赖的算法和模型可能成为弱点。
腾讯科技讯 7月18日消息，据国外媒体报道，埃隆·马斯克（Elon Musk）对旗下人工智能公司xAI推出的聊天机器人Grok寄予了很大期望，希望人们能够通过其获取新闻资讯。然而在面对现实的复杂事件时，它的表现却一团糟。特别是当美国前总统唐纳德·特朗普（Donald Trump）遭遇暗杀未遂事件后不久，Grok基于X上的信息流发布了多条误导性头条，凸显了人工智能技术的局限性。
其中一则误报尤为引人注目，错误地宣称副总统卡玛拉·哈里斯（Kamala Harris）遭遇袭击，这一失误似乎源于X上部分用户对拜登总统之前一次口误的讽刺性解读。当时，拜登无意中将哈里斯和特朗普的名字搞混了。
另一则摘要则错误指认了嫌疑人身份，并将其与“极左翼运动（antifa）”联系起来。这一表述在警方公布不同嫌疑人及动机尚未明确的情况下，显得尤为草率。
尽管这些摘要下方附有免责声明，明确指出：“本报道乃X平台帖子的概要总结，内容或随时间发展而变化。Grok作为人工智能工具，存在出错可能，请用户自行验证其输出。”然而，这并未能完全消除Grok在新闻传播中的误导性影响。
马斯克曾对X平台及其搭载的人工智能机器人Grok寄予厚望，宣称其能自动提炼数亿用户帖子的精华，生成标题及新闻摘要。他多次公开批评传统新闻媒体反应迟缓且可信度下降，并鼓励用户习惯从Grok处获取即时新闻更新。
马斯克在今年6月的一次广告业盛会上强调：“在X平台上，我们正实现信息的汇聚与精炼。我们利用人工智能的力量，将数百万用户的海量输入转化为精炼的总结。我坚信，这将是未来新闻传播的新常态。”
针对Grok此次的误报事件，X尚未发表正式回应。
Grok是马斯克旗下人工智能公司xAI推出的作品，自去年启动研发以来，已逐步融入X，为订阅者带来了包括智能聊天机器人在内的多项创新功能。在新闻总结方面，Grok展现了一定程度的准确性，预示着其巨大的技术潜力。马斯克特别指出，Grok能够即时抓取X上的海量帖子，这是其显著优势之一。X称其为“带有幽默感的人工智能搜索助手”。
然而，近期发生的误报事件也暴露出Grok在设计上的不足，尤其是在处理突发事件时，其依赖的算法和模型可能成为弱点。面对来自多个渠道的实时信息流，一个倾向于幽默解读的计算机模型在筛选和整合信息时，显然面临着不小的挑战。
对此，前Facebook公共政策主管凯蒂·哈巴斯（Katie Harbath）表示：“我们仍有很长的路要走。当涉及到像枪击这样的突发事件时，当事实尚未确定时，人类的专业判断与背景知识是不可或缺的。”
在这样的敏感时刻，即便是经验丰富的记者，在追逐重大突发新闻时，也难免偶有失误。但Grok的某些错误，却远远超出了这类常规混乱的范畴。
一则引人瞩目的Grok头条错误地声称：“电影《小鬼当家2》的演员在特朗普集会上遭到枪击？” 特朗普确实在1992年的电影《小鬼当家2：迷失纽约》中露过脸，成为部分X用户热议的话题，但Grok的摘要却未能澄清“演员”是否是特朗普本人，反而混淆视听，写道：“据报道，电影《小鬼当家2：迷失纽约》的一名演员在公开活动中遭遇枪击，推测与特朗普竞选集会有关。”
Grok并非首个在新闻事件总结上栽跟头的生成式人工智能工具。此前，谷歌也因其人工智能功能偶尔产生的离奇建议而宣布进行修正，比如建议用胶水将奶酪固定在披萨上。
值得注意的是，一些科技公司采取了与马斯克不同的策略，避免将产品直接定位为实时新闻工具。例如，OpenAI的ChatGPT在接到关于此次袭击事件的查询时，不仅概括了事件本身，还贴心地提供了事实核查网站PolitiFact的链接，同时明确表明自己“并非实时新闻产品”。
Meta高管表示，他们并不鼓励在短视频平台Threads上发布政治性内容，这款应用旨在与X形成差异化竞争。Meta高管亚当·莫瑟里（Adam Mosseri）去年便表达了这样的立场，他期望Threads能规避政治及硬新闻常伴的负面效应和其他弊端。
与此同时，周末期间，部分Threads用户抱怨该平台在枪击事件的信息更新上速度不及X，这反映出马斯克旗下的平台依然是新闻资讯的重要来源之一。
针对此次暗杀未遂事件，X首席执行官琳达·雅卡里诺（Linda Yaccarino）在周日发送的一封内部邮件中强调，公司已将此视为“重大事件”，并迅速调集资源，优先处理平台上任何违反规则的内容，特别是那些对袭击表示赞赏的帖子。
Grok在新闻事件总结上遭遇挑战并非首次。6月份美国总统辩论后，当X用户提及加州州长加文·纽森（Gavin Newsom）时，Grok竟错误地生成了“纽森在近期辩论中大获全胜”的标题，而事实上纽森并未参与辩论，尽管他出席了相关活动。此外，部分政治观察家虽提及纽森可能为拜登的潜在继任者，但这一说法已被纽森本人公开否认。
在马斯克接手X（前身为Twitter）之初，该平台曾设有专门团队负责热门话题的摘要撰写。然而，随着马斯克的大规模裁员行动，该团队也被解散。前Twitter高管埃文·汉森（Evan Hansen）透露，他曾是该团队的一员，直至裁员发生。
汉森回忆道，在马斯克接管之前，Twitter已尝试利用人工智能辅助摘要撰写，但仍需人工进行内容审核与修正。他指出：“人工智能虽能发挥作用，但必须要非常精细地进行处理。” （编译/金鹿）