速递|AI 监管法案 SB1047 遭否决!加州州长:加州是全球 32 家领先 AI 公司所在地,过早立法会阻碍 AI 创新

图片图片图片
据悉,该法案通过加州州立法机构后,Newsom 直到最后一刻才宣布这一决定。这项法案旨在迫使开发最强大 AI 模型的公司遵守严格规则,包括设置紧急停止开关以防止灾难性危害。
然而,Google、OpenAI 和 Meta 等硅谷 AI 科技巨头强烈反对该法案,认为过早的立法可能会阻碍 AI 的发展,威胁到加州在技术开发中的领先地位,而 Anthropic 以及 xAI 则支持该立法。

在给加州参议院的信中,Newsom 为否决这项名为《前沿 AI 系统安全创新法》(SB 1047)的法案辩护。他表示,这一框架可能会“遏制推动进步并造福公众的创新”,并指出加州是全球 32 家领先 AI 公司所在地。

Newsom 特别指出,法案以模型的规模为衡量标准 —— 该法案要求开发成本超过1亿美元的模型进行安全测试和实施其他防护措施 —— 并非正确的做法。这种标准可能会让公众对控制这一快速发展的技术产生错误的安全感,因为“小型且专门的模型可能同样危险,甚至更危险。

提出该法案的参议员 Scott Wiener 表示,否决法案是“对所有相信需要监管那些做出影响公众安全、福祉及地球未来关键决策的大型企业的人的一次挫折”。

他还指出,面对极为强大的技术,企业在美国政策制定者缺乏约束的情况下,几乎没有任何强制性限制,尤其是国会在监管科技行业方面持续瘫痪。

尽管如此,Newsom 坚称,法案并没有考虑到 AI 系统是否部署在高风险环境中、涉及关键决策或使用敏感数据。

“相反,只要是大型系统,法案就会对其施加严格的标准。我不认为这是保护公众免受技术真正威胁的最佳方式。”

在过去 30 天内,Newsom 已经签署了多项涉及生成式 AI 技术的法律,包括关于深度伪造、AI 水印和虚假信息的规定。

他还表示,科技领域的专家也已与加州合作,帮助制定基于实证和科学证据的“可行监管框架”,以控制生成式AI的部署。