近日，不少Snapchat用户感到“吓坏了”，尽管还没有到万圣节，但他们却觉得像是在这个节日已经到来。原因是周二晚上，Snapchat的My AI聊天机器人发布了一个神秘的一秒钟的视频，画面上似乎是一面墙和一个天花板，以前聊天机器人从未在消息中添加过视频。
继而当用户询问聊天机器人时，机器保持了怪异的沉默。
由于这个AI图像与墙壁和天花板相似，很多人认为AI可能在监视他们。一位用户说：“我发誓我以为那是我家的墙壁，尤其是我现在正坐在我的客厅里。”另一个人写道：“这看起来跟我家的墙完全一样，差点吓死我。”
这款吓坏众人的My AI聊天机器人，是Snapchat于今年早些时候在全球推出的，旨在像朋友一样回复用户的消息，使用者可以通过聊天框与机器人对话，机器人将提供琐事的答案，提供建议，并在用户与应用程序分享其地理位置时根据位置提供推荐。
不少用户在社交媒体上分享了该短片的屏幕录像和屏幕截图，迅速引发了热议。对此，Snapchat称此次事件为“暂时中断”，但该事件已得到解决。随后许多用户确实反映该视频已被删除，AI聊天功能暂时停止回复用户的问题。
即便如此，仍然有部分用户在推特上表示，聊天机器人自动发送过来的故事“吓坏了我，所以我删除了该应用程序”，用户的恐惧也引发了业内人士的热议，不少专业人士担心人工智能功能已经进化或变得有知觉。
目前尚不清楚为什么故障会导致发布神秘图像，不过很多人猜测，此次故障的原因是其正在试验一种图像或视频生成功能，毕竟Snap很有可能正在考虑向My AI添加新功能，以允许AI聊天机器人向Stories发布内容。目前，人工智能机器人可以发送短信，甚至可以用图像给用户发回快照。尤其是「My AI」是内置在Snapchat应用中的聊天机器人，因此不少年轻用户认为与My AI聊天机器人对话，以及得到它的反馈很有趣——“当它开始通过故事表达自己时，就好像它有自己的想法一样，我可以像和真人对话一样与其交流。”
与其他一些AI工具不同，Snapchat的版本有一些关键的区别：用户可以自定义聊天机器人的名称，为其设计一个自定义的Bitmoji头像，并将其引入与朋友的对话中。总体效果是，与Snapchat的聊天机器人交流可能会感觉不那么事务性，就好像访问ChatGPT的网站一样。
但自4月份推出以来，这款工具一定程度上受到了家长们的反对，还受到了一些Snapchat用户的批评，主要是涉及隐私问题、「可怕」的对话内容以及除非付费订阅，否则无法从聊天记录中移除该功能。
从技术角度来看，其本身是由OpenAI的大型语言模型（LLM）来技术提供支持，类似于ChatGPT。它能机智地回答问题，并推荐Snapchat的功能，让人感觉像是一个时髦的年轻人与在线的好友聊天。
显然，作为OpenAI训练的大型语言模型，聊天机器人的功能有限，不会像人类那样思考或感受。然而，它能以惊人的能力模仿人类，这可能会在不可避免地捏造错误信息时引发伦理困境。尽管存在这种可能性，Snapchat仍然将这个功能推广给全球数亿用户。目前人工智能可能会引发的潜在风险正在引起全球范围内的关注，如果类似的事件频发，可能会引起公众对使用人工智能的更多忧虑。