加利福尼亚州州长加文·纽瑟姆 (Gavin Newsom) 否决了一项备受争议的人工智能 (AI) 法案，认为该法案会阻碍创新，并且无法保护公众免受该技术带来的“真正”威胁。
纽森于 9 月 30 日否决了 SB 1047（即《前沿人工智能模型安全创新法案》），该法案遭到了硅谷的强烈反对。
它提议对人工智能模型和其他防护措施进行强制性安全测试，科技公司担心这会扼杀创新。
纽瑟姆在 9 月 29 日的声明中表示，该法案过于关注监管现有的顶级人工智能公司，而没有保护公众免受新技术带来的“真正”威胁。
“相反，该法案甚至对最基本的功能都采用了严格的标准——只要大型系统部署它。我不认为这是保护公众免受该技术构成的真正威胁的最佳方法。”由旧金山民主党参议员撰写SB 1047 委员 Scott Wiener 还要求加州的开发者（包括 ChatGPT 制造商 OpenAI、Meta 和 Google 等知名企业）为其 AI 模型实施“终止开关”，并发布缓解极端风险的计划。
如果该法案得到实施，人工智能开发商在人工智能网格接管等模型持续构成威胁的情况下，也将有可能被州总检察长起诉。纽瑟姆表示，他已要求世界领先的人工智能安全专家帮助加州“开发可行的护栏”，重点是创建“基于科学的轨迹分析”。他补充说，他已命令国家机构扩大对人工智能开发潜在灾难性事件风险的评估。
相关：OpenAI 转向营利性：这真的“非法”吗？
相关：OpenAI 转向营利性：真的“非法”吗？ >
尽管纽瑟姆否决了 SB 1047，但他表示必须采用适当的人工智能安全协议，并补充说监管机构不能“等待重大灾难发生”在采取行动保护公众之前。”
Newsom 补充说，他的政府在过去 30 天内签署了超过 18 项有关人工智能监管的法案。
政客、大型科技公司对人工智能的抵制安全法案
在纽瑟姆做出决定之前，该法案不受立法者、顾问和大型科技公司的欢迎。
众议院议长南希·佩洛西和 OpenAI 等公司表示，这将严重阻碍人工智能的发展。
Abundance Institute 人工智能政策负责人 Neil Chilson 警告说，虽然该法案主要针对一定成本和规模的模型（成本超过 1 亿美元的模型），但其范围很容易扩大以打击打击也适用于较小的开发商。
但有些人对此法案持开放态度。亿万富翁埃隆·马斯克 (Elon Musk) 正在开发自己的人工智能模型，名为“Grok”，他是少数支持该法案并更广泛地推行人工智能法规的科技领袖之一。
在 8 月 26 日发布的 X 帖子中，马斯克说：“加州或许应该通过 SB 1047 人工智能安全法案”，但承认支持该法案是一个“艰难的决定”。
杂志：先进的人工智能系统已经具有“自我意识”——ASI 联盟创始人