OpenAI, het bedrijf achter de populaire ChatGPT, heeft zich uitgesproken tegen een wetsvoorstel in Californië dat erop gericht is het gebruik van krachtige kunstmatige intelligentie (AI) te waarborgen. In een brief aan de Californische senator Scott Wiener uitte Jason Kwon, Chief Strategy Officer van OpenAI, zijn bezorgdheid dat de wet SB 1047 de groei van de AI-industrie in de staat zou kunnen bedreigen en Californië's innovatievermogen aanzienlijk zou kunnen beperken.

„Het wetsvoorstel bedreigt Californië’s unieke status als wereldleider op het gebied van Kunstmatige Intelligentie“, schreef Kwon. Hij waarschuwde dat de wet het innovatieproces zou kunnen vertragen en zeer bekwame ingenieurs en ondernemers zou kunnen dwingen de staat te verlaten om elders betere kansen te zoeken.

SB 1047 heeft een controversieel debat veroorzaakt in de techscene van Silicon Valley. Terwijl algemeen wordt erkend dat het nodig is om de risico's van nieuwe AI-modellen te beperken, vrezen critici dat de voorstellen van Wiener start-ups zullen verstikken, in de kaart zullen spelen van Amerikaanse concurrenten en Californië's centrale rol in de AI-boom zouden kunnen ondermijnen.

OpenAI, dat door zijn samenwerking met Microsoft en het succes van ChatGPT aan betekenis heeft gewonnen, ondersteunt weliswaar in principe maatregelen voor de veilige ontwikkeling en implementatie van AI, maar stelt dat de wetgeving op federaal niveau en niet door afzonderlijke staten moet plaatsvinden.

Senator Wiener reageerde woensdag dat hij weliswaar ook van mening is dat de federale overheid de leiding zou moeten nemen, maar dat hij sceptisch is dat het Congres zal handelen. Hij wees ook het argument af dat tech-startups de staat zouden verlaten als de wet wordt aangenomen, en benadrukte dat ook bedrijven buiten Californië zich aan de wet zouden moeten houden om daar zaken te kunnen doen.

Hier is de vertaling van de gegeven kop naar het Nederlands:
Het Californische parlement zal waarschijnlijk tegen het einde van de maand stemmen over het wetsvoorstel. Als het voorstel wordt aangenomen, is het aan gouverneur Gavin Newsom om het wetsvoorstel te ondertekenen of een veto uit te spreken.

In de afgelopen weken hebben tech-groepen en investeerders, waaronder Anthropic, Andreessen Horowitz en YCombinator, hun lobbywerk tegen de voorstellen van Wiener geïntensiveerd. Ook Nancy Pelosi, de voormalige voorzitster van het Huis van Afgevaardigden en afgevaardigde van Californië, bracht een verklaring uit tegen het wetsvoorstel en noemde het "welgemeend, maar slecht geïnformeerd".

Tot de meest omstreden aspecten van het oorspronkelijke voorstel behoorden de eis dat AI-bedrijven een nieuwe overheidsinstantie moesten garanderen geen modellen met "gevaarlijke capaciteiten" te ontwikkelen en de invoering van een "kill switch" om krachtige modellen te deactiveren. Tegenstanders voerden aan dat het ontwerp zich te veel richtte op hypothetische risico's en een "extreme" aansprakelijkheid voor oprichters betekende.

In de afgelopen week is het ontwerp gewijzigd om enkele van deze vereisten te versoepelen, waaronder de beperking van de civielrechtelijke aansprakelijkheid voor KI-ontwikkelaars. Desondanks vrezen critici nog steeds dat de wet start-ups belast met buitensporige en soms onrealistische eisen.