OpenAI, företaget bakom den populära ChatGPT, har tydligt motsatt sig ett lagförslag i Kalifornien som syftar till att säkerställa användningen av kraftfull artificiell intelligens (AI). I ett brev till Kaliforniens senator Scott Wiener uttryckte Jason Kwon, Chief Strategy Officer på OpenAI, oro över att lagen SB 1047 skulle kunna hota tillväxten av AI-branschen i delstaten och avsevärt begränsa Kaliforniens innovationskraft.

„Lagförslaget äventyrar Kaliforniens unika ställning som en global ledare inom artificiell intelligens“, skrev Kwon. Han varnade för att lagen kan bromsa innovationsprocessen och få högkvalificerade ingenjörer och entreprenörer att lämna delstaten för att söka bättre möjligheter någon annanstans.

SB 1047 har utlösts en kontroversiell debatt i Silicon Valleys tekniska scen. Medan behovet av att begränsa riskerna med nya AI-modeller allmänt erkänns, fruktar kritiker att Wieners förslag kommer att kväva start-ups, gynna amerikanska konkurrenter och undergräva Kaliforniens centrala roll i AI-boomen.

OpenAI, som har vunnit betydelse genom sitt partnerskap med Microsoft och framgången med ChatGPT, stödjer i princip åtgärder för säker utveckling och implementering av AI men argumenterar att lagstiftningen bör ske på federal nivå och inte genom enskilda delstater.

Senator Wiener svarade på onsdagen att han visserligen håller med om att förbundet bör ta ledningen, men han var skeptisk till att kongressen skulle agera. Han avvisade också argumentet att teknik-startups skulle lämna delstaten om lagen antogs och betonade att även företag utanför Kalifornien skulle behöva följa lagen för att göra affärer där.

Det kaliforniska parlamentet förväntas rösta om lagförslaget före månadens slut. Om förslaget antas, ligger det på guvernör Gavin Newsom att antingen underteckna lagen eller lägga in sitt veto.

Under de senaste veckorna har teknikgrupper och investerare, inklusive Anthropic, Andreessen Horowitz och YCombinator, intensifierat sitt lobbyarbete mot Wieners förslag. Även Nancy Pelosi, den tidigare talmannen i representanthuset och ledamot från Kalifornien, publicerade ett uttalande mot lagförslaget och kallade det "välmenande men dåligt informerat".

Till de mest omstridda aspekterna av det ursprungliga förslaget hörde kravet på att AI-företag måste garantera en ny statlig myndighet att inte utveckla modeller med "farliga förmågor", samt införandet av en "nödbrytare" för att avaktivera kraftfulla modeller. Motståndare hävdade att förslaget fokuserade för mycket på hypotetiska risker och innebär en "extrem" ansvar för grundarna.

Under den gångna veckan har utkastet ändrats för att mildra några av dessa krav, inklusive begränsningen av det civilrättsliga ansvaret för AI-utvecklare. Kritiker fruktar dock fortfarande att lagen kommer att belasta start-ups med överdrivna och ibland orealistiska krav.