加州州长纽森刹车创新——否决开创性人工智能法案

加利福尼亚州州长加文·纽瑟姆否决了一项具有里程碑意义的法律，该法律旨在对人工智能（AI）在美国的最严格监管。名为《前沿人工智能模型安全创新法案》的法律提案将要求那些投资超过一亿美元用于训练AI模型的公司采取强制性的安全措施，以防止大规模碰撞，并实施一种能够完全禁用恶意模型的“杀戮开关”功能。 纽瑟姆在其否决声明中表示，尽管法律提案SB 1047“本意良好”，但未能考虑到AI系统是否在高风险环境中使用或作出敏感决策。因此，即使是基本功能，也会因为被大型系统使用而受到严格监管。“我认为这不是保护公众免受技术实际威胁的最佳方法，”州长解释道。 在否决该提案的同时，纽瑟姆表示他正在与包括“AI教母”李飞飞在内的顶尖专家合作，以制定生成性AI的使用规范。他还指示政府机构加强对这项技术的风险评估。 AI监管在硅谷内外引发了激烈辩论。OpenAI、Google和Meta等公司公开反对该法案，而Anthropic在一定条件下表示谨慎支持。尽管大科技公司反对，但超过100名来自Google、Meta、OpenAI和Anthropic的现任和前任员工敦促纽瑟姆签署该法案，并警告高性能AI模型的潜在严重风险。 超过125名演员、导演和娱乐业高管也呼吁纽瑟姆签署该法案，声明说：“我们坚信AI有惊人的潜力带来积极影响，但我们也必须现实地面对其风险。” 法律提案SB 1047在促进快速变化行业的创新需求和确保负责任使用技术的必要性之间进行平衡。在Dreamforce会议上，纽瑟姆与Salesforce首席执行官马克·贝尼奥夫讨论了他对SB 1047的担忧，并强调保持加州竞争力的重要性。 法律的著名支持者还包括亿万富翁及xAI首席执行官埃隆·马斯克，以及“AI之父”约书亚·本吉奥和杰弗里·辛顿。该法律的主要作者，参议员斯科特·维纳，称这是一个合理的框架，用于应对一项监管不足的技术，并强调了强有力的全国统一法律的必要性。 纽瑟姆表示，他支持保护公众免受实际威胁，但指出任何框架都必须与技术同步发展。尽管SB 1047旨在处理高级模型的长期风险，纽瑟姆上个月签署了另外17项与AI相关的法律，主要针对即时威胁，如深度伪造选举内容及AI生成的性显露内容的监管。 美国总统乔·拜登在联合国大会的演讲中强调了全球标准以保护人类生命免受AI风险的必要性，称这是未来领导层面临的关键挑战。