OpenAI heeft donderdag zijn nieuwste o1-modellen gepresenteerd, die aanzienlijke vooruitgang bieden op het gebied van logisch denken, probleemoplossing en het beantwoorden van wetenschappelijke vragen. De modellen worden beschouwd als een cruciale stap in de richting van de ontwikkeling van een algemene kunstmatige intelligentie (AGI) – machines die het menselijk denkvermogen bereiken.

In de bijbehorende systeemkaart die de werking van de AI beschrijft, erkent OpenAI echter dat de nieuwe modellen ook het risico op misbruik van de technologie, met name in verband met de vervaardiging van biologische wapens, "significant verhoogd" hebben. Voor het eerst gaf het bedrijf aan zijn modellen een "gemiddelde risicobeoordeling" met betrekking tot chemische, biologische, radiologische en nucleaire (CBRN) wapens. Dit betekent dat de technologie de capaciteiten van experts om biologische wapens te ontwikkelen aanzienlijk heeft verbeterd.

Geavanceerde KI-software die in staat is tot stapsgewijze logische redeneringen verhoogt volgens experts het risico op misbruik. Yoshua Bengio, een van 's werelds toonaangevende KI-onderzoekers, benadrukte de urgentie van wettelijke regelingen om deze risico's te minimaliseren. Hij verwees hierbij naar een wetsvoorstel in Californië, dat bedrijven zou verplichten veiligheidsmaatregelen te nemen om het gebruik van KI voor de ontwikkeling van biologische wapens te voorkomen. "Hoe verder KI richting AGI voortschrijdt, des te groter worden de risico's als er geen passende beschermingsmaatregelen zijn," waarschuwde Bengio.

Technologiebedrijven zoals Google, Meta en Anthropic werken momenteel ook aan de ontwikkeling van geavanceerde AI-systemen. Deze AI-agenten zouden mensen kunnen helpen bij het uitvoeren van taken en bieden bovendien potentieel lucratieve zakelijke mogelijkheden voor bedrijven die geconfronteerd worden met de enorme kosten van AI-ontwikkeling.

Mira Murati, Chief Technology Officer van OpenAI, verklaarde tegenover de Financial Times dat het bedrijf bijzonder voorzichtig is bij de introductie van de o1-modellen omdat ze over uitgebreide mogelijkheden beschikken. De modellen worden echter beschikbaar gesteld via ChatGPT voor betalende abonnees en via een API voor programmeurs. Murati voegde toe dat de modellen uitgebreide veiligheidstests hebben ondergaan en aanzienlijk beter presteerden op het gebied van veiligheid dan eerdere versies.