据英国《金融时报》5月30日报道，超过350名人工智能（AI）领域的专家、高管签署联合声明，警告称快速发展的人工智能技术对于人类的威胁可以堪比疫情和核战争。这是至今为止关于人工智能的威胁警告最严厉的一次。事实上，世纪老人基辛格也曾呼吁中美之间就人工智能进行对话，强调由于不可控，其威胁大于核武器。另外，今年3月，美国亿万富豪埃隆·马斯克和其他1000多名研究人员和科技高管呼吁暂停先进人工智能系统开发6个月，以停止该领域的“军备竞赛”。当时，这一声明遭到了从业人员的批评。到底什么人会批评呢？
英国《金融时报》报道截图
事实上，从业者的反对很可能比较单纯，充其量是行业的声音，真正反对限制控制人工智能发展的，则是霸凌集团和谋利资本，他们甚至不惜从“机器人拥有意识”“大量的人失业”两个方向制造恐慌，目的是用“超人”的人工智能满足自己的贪婪。因此，真正有理智的人都知道，最危险的是掌握了领先人工智能且心怀叵测的人。
事实上，这些“躲在人工智能后面的人”的喧闹，反而让这些人原形毕露，引起了有识之士的更多警惕。尤其是这些人最新的一波渲染，是许多大型科技公司推出的一些人工智能产品，尤其是ChatGPT的推出，其可以作为“意识形态核弹”的巨大风险，反而提高了人们对这一技术潜在缺陷的认识，包括传播错误信息、延续社会偏见和让人类面临失业风险，尤其是人类社会对其彻底失控。也正因为如此，越来越多的声音呼吁对整个行业进行监管。前面提到了多波次的警告和呼吁，非常遗憾的是，没有任何一个中国人、团队或者机构，这其实是一种风险，与我们高质量发展背道而驰。
也正是因为国内的这种状态，再一次警示我们，需要切实重视这种充满忧患意识的呼吁。因此，不妨看看这次最新呼吁的具体内容以及发出呼吁的是什么人。
报道称，总部位于旧金山的非营利组织人工智能安全中心发表的一份声明称：“减轻人工智能带来的人类灭绝风险，应该与流行病和核战争等其他社会风险一样，成为全球优先考虑的问题。”很显然，当国内依然将这种人工智能作为股市炒作热点，让资本狂欢的时候，这种类比为流行病和核战争的思考，是非常有价值的。尤其是在核恐怖笼罩世界，以及刚刚经过三年新冠瘟疫之后，我们需要非常重视这种呼吁。
再看看联名签署这份声明的人都是谁？我们也看到，国内炒作的爆发点几乎都在股市股价上下功夫了，至今看不到一贯轰动性的产品。而国际上的呼吁者，包括人工智能领域专家和高管，包括ChatGPT之父”、OpenAI公司创始人兼CEO萨姆·阿尔特曼，谷歌旗下的DeepMind公司CEO戴米斯·哈萨比斯，微软CTO凯文·斯科特。此外，在神经网络方面做出贡献而获得图灵奖、经常被称为人工智能“教父”的杰弗里·辛顿和约书亚·本吉奥也都签署了这份声明。
所以，我们在这个问题上，要看到的，不仅是我们技术上的短板，更要看到我们思想上的短板，甚至是“思想底板”上的一个“漏洞”。
那到底该怎么办？
法治力量依然是不变的法宝，类似于我们反腐一样，不能让不受监督的人出现。法律要限制人工智能制造“超级人”，不能将运动员、裁判员加在一起，也不能让一个机器人跨行业、跨领域而导致无所不能，甚至可以既当警察，又是强盗。特别防范由于法制空白和利欲熏心，让人工智能的研发走向邪路。据报道，目前，欧盟立法者正在推进欧洲的人工智能法案，而美国也在探索如何监管人工智能技术。中国也得跟上。
对于这一点，我们有必要上升到5月30日中央国家安全委员会第一次会议对目前的国家安全形势作了最新判断：一是当前我们所面临的国家安全问题的复杂程度、艰巨程度明显加大。二是要坚持底线思维和极限思维，准备经受风高浪急甚至惊涛骇浪的重大考验。
复杂程度、艰巨程度覆盖率政治、经济、军事、文化和外交各个方面，都突出地体现在人工智能可以整体驱动的“协同高效、法治思维、科技赋能、基层基础”，以及有机衔接、联动集成上。
一句话总结：应对堪比疫情和核战争的人工智能超级威胁，既要提升国家安全体系和能力现代化，更要突出实战实用鲜明导向，现在就行动起来，但绝对不能被资本绑架，成为资本炒作的噱头。
秦安，2023年6月1日，北京海淀。