OpenAI, virksomheden bag den populære ChatGPT, har udtalt sig mod et lovforslag i Californien, der sigter mod at sikre brugen af kraftig kunstig intelligens (AI). I et brev til den californiske senator Scott Wiener udtrykte Jason Kwon, Chief Strategy Officer for OpenAI, bekymring over, at lovforslaget SB 1047 kunne true væksten i AI-branchen i delstaten og væsentligt begrænse Californiens innovationskraft.
„Det lovforslag bringer Californiens unikke status som global leder inden for kunstig intelligens i fare“, skrev Kwon. Han advarede om, at loven kunne bremse innovationsprocessen og få højt kvalificerede ingeniører og iværksættere til at forlade staten for at søge bedre muligheder andre steder.
SB 1047 har udløst en kontroversiel debat i tech-scenen i Silicon Valley. Mens nødvendigheden af at begrænse risiciene ved nye AI-modeller generelt bliver anerkendt, frygter kritikere, at Wieners forslag vil kue startups, spille amerikanske konkurrenter i hænderne og underminere Californiens centrale rolle i AI-boomet.
OpenAI, som har vundet betydning gennem sit partnerskab med Microsoft og succesen med ChatGPT, støtter grundlæggende tiltag til sikker udvikling og implementering af AI, men argumenterer for, at lovgivningen skal finde sted på føderalt niveau og ikke gennem enkelte stater.
Senator Wiener svarede onsdag, at han ganske vist også mente, at regeringen burde tage føringen, men at han var skeptisk over, om Kongressen ville handle. Han afviste også argumentet om, at tech-startups ville forlade staten, hvis loven blev vedtaget, og understregede, at virksomheder uden for Californien også skulle overholde loven for at kunne drive forretning der.
Det californiske parlament forventes at stemme over lovforslaget inden månedens udgang. Hvis forslaget vedtages, ligger det hos guvernør Gavin Newsom at beslutte, om han vil underskrive loven eller nedlægge veto.
In de seneste uger har teknologigrupper og investorer, herunder Anthropic, Andreessen Horowitz og YCombinator, intensiveret deres lobbyarbejde mod Wieners forslag. Selv Nancy Pelosi, tidligere formand for Repræsentanternes Hus og californisk repræsentant, udgav en erklæring imod lovforslaget og kaldte det "velment, men dårligt informeret".
Til de mest omstridte aspekter ved det oprindelige forslag hørte kravet om, at AI-virksomheder skal garantere over for en ny statslig myndighed, at de ikke udvikler modeller med "farlige evner", samt indførelsen af en "nødafbryder" til deaktivering af kraftfulde modeller. Modstandere argumenterede for, at udkastet fokuserede for meget på hypotetiske risici og medførte et "ekstremt" ansvar for grundlæggere.
I den forgangne uge blev udkastet ændret for at mildne nogle af disse krav, herunder begrænsningen af civilretligt ansvar for AI-udviklere. Kritikere frygter dog stadig, at loven belaster start-ups med overdrevne og nogle gange urealistiske krav.
