近日有消息显示，美国加利福尼亚州州长Gavin Newsom签署了多项与AI监管相关的法案，其中有3项是关于管控AI生成的Deepfake（深度伪造）或其他欺骗性内容，另外2项则是关于保护演艺人员的数字肖像权。
据悉，Gavin Newsom此次签署、关于Deepfake的法案中，AB 2839法案将作为紧急法规立即生效，即禁止任何个体或实体恶意分发与选举有关的欺骗性Deepfake内容。该法案将适用时间从选举前120天内延长至选举后60天内、以进一步覆盖计票过程，同时还支持已当选官员、候选人、选举官员对Deepfake内容分发者提起民事诉讼，从而寻求赔偿。
另外2项关于Deepfake的法案则将于明年1月起正式生效，其中AB 2655法案要求拥有超过百万当地用户的大型网络平台在选举前后的特定时期内对虚假内容进行识别、标记和删除，包括社交媒体、视频平台、搜索引擎等。此外AB 2355法案则规定在使用AI生成或大幅更改选举广告时，应对此进行明确的披露。
与演员相关的2项法案中，有一项规定未经本人许可的情况下，创作者不能通过AI复制他们的声音或肖像。另一项法案则禁止将已故人员的数字复制品用于电影、电视节目等商业用途，除非提前获得遗产管理者的同意。
值得一提的是，《前沿人工智能模型安全创新法案》（即SB 1047）也已在加州的州议会通过，Gavin Newsom需要在今年9月30日前决定签署或否认该法案。
据了解，SB 1047提出对AI模型实施美国的首个安全标准。具体而言，其要求对最先进的AI模型进行安全测试，并采取适当的保护措施，同时还要求建立一个实体来监督AI模型的发展，并赋予州检察长向模型开发商提起诉讼的权力。
根据SB 1047的规定，AI开发者将承担技术被他人滥用所导致的责任。同时成本至少为1亿美元、并使用10^26 flops训练的AI模型开发者需遵守并披露安全计划，以防止他们的模型造成“严重伤害”，即造成大规模人员伤亡或超过5亿美元的损失。此外，这一法案还特别包含了“为员工提供举报人保护”条款，禁止所涉及的模型开发者阻止员工向司法部长、劳工专员披露相关信息，或对披露信息的员工进行报复。
对此Gavin Newsom曾在一场活动中表示，SB 1047可能会产生巨大影响，并产生一定的威慑作用。加州在AI领域占据了主导地位，但在几年内签署错误的法案可能会对其竞争力产生深远影响。
有消息显示，谷歌、Meta、OpenAI等公司也对SB 1047表示反对。其中OpenAI方面曾明确指出，“该法案将减缓AI创新步伐，导致一流的工程师和企业家离开加州，到其他地方寻找更大的机会”。此外OpenAI方面还认为，应由联邦政府、而非各州来监管AI风险，这样才能为AI实验室和开发者提供清晰度和确定性，同时保障公共安全。
此外值得一提的是，近日OpenAI方面宣布将其安全与保障委员会（SSC）改为一个专注于安全和保障的独立董事会监督委员会。据悉，该公司董事会及SSC已经对其最新AI模型o1进行了安全审查，该模型在CBRN（化学、生物、放射性和核武器）方面被评为“中等风险”。
对此Element AI联合创始人Yoshua Bengio表示，“如果OpenAI确实像他们报告的那样，跨过了CBRN的‘中等风险’水平，这只会加强出台SB 1047这类法案来保护公众的重要性和紧迫性”。
【本文图片来自网络】