OpenAI, 这家开发热门聊天机器人ChatGPT的公司，坚决反对加州的一项旨在确保高性能人工智能 (AI) 安全使用的立法草案。在给加州参议员Scott Wiener的信中，OpenAI首席战略官Jason Kwon表示担忧，认为法案SB 1047可能会威胁该州AI产业的发展，并严重限制加州的创新能力。

《法律草案危及加利福尼亚作为全球人工智能领域领导者的独特地位》，权（Kwon）写道。他警告说，该法律可能会减缓创新过程，并促使高素质的工程师和企业家离开该州，去寻找更好的机会。

SB 1047在硅谷的科技圈引发了一场激烈的辩论。虽然普遍承认有必要限制新AI模型的风险，但批评者担心，Wiener的提议可能会扼杀初创公司，有利于美国的竞争对手，并削弱加州在AI繁荣中的核心作用。

开放AI通过与Microsoft的合作伙伴关系和ChatGPT的成功获得了更大意义，但虽然它原则上支持安全开发和实施人工智能的措施，然而它认为应该在联邦层面而不是由各个州来进行立法。

参议员维纳周三回应说，尽管他也认为联邦政府应该采取领导作用，但他对国会会采取行动表示怀疑。他还反驳了科技初创公司如果该法律通过将离开该州的说法，并强调即使是加利福尼亚州以外的公司也必须遵守法律才能在那里开展业务。

加利福尼亚议会预计将在月底前对法案进行投票。如果该法案获得通过，州长加文·纽森将决定签署或否决。

在过去的几周里，包括Anthropic、Andreessen Horowitz和YCombinator在内的科技团体和投资者加强了对威纳提案的游说。前众议院议长、加州众议员南希·佩洛西也发表声明反对该法案，并称其为“好意但信息不足”。

以下是原始提案中最具争议的方面之一，即要求人工智能公司向新的政府机构保证不开发具有“危险能力”的模型，并引入一个用于关闭强大模型的“杀死开关”。反对者认为，该草案过于关注假设的风险，并对创始人施加了“极端”责任。

上周，该草案进行了修改，以减轻其中一些要求，包括限制对人工智能开发者的民事责任。然而，批评者仍然担心该法律会给初创公司带来过多和有时不切实际的要求。