OpenAI vo štvrtok predstavila svoje najnovšie modely o1, ktoré prinášajú významné pokroky v oblasti logického myslenia, riešenia problémov a odpovedania na vedecké otázky. Modely sú považované za zásadný krok na ceste k vývoju umelej všeobecnej inteligencie (AGI) – strojov, ktoré dosahujú schopnosť ľudského myslenia.

V sprievodnej systémovej karte, ktorá popisuje fungovanie umelej inteligencie, však OpenAI priznáva, že nové modely tiež významne zvýšili riziko zneužitia technológie, najmä v súvislosti s výrobou biologických zbraní. Spoločnosť po prvýkrát priradila svojim modelom "strednú rizikovú klasifikáciu" v súvislosti s chemickými, biologickými, rádiologickými a jadrovými (CBRN) zbraňami. To znamená, že technológia výrazne zlepšila schopnosti odborníkov pri vývoji biologických zbraní.

Pokročilý softvér AI schopný vykonávať postupné logické argumentácie nesie podľa odborníkov zvýšené riziko zneužitia. Yoshua Bengio, jeden z popredných svetových výskumníkov v oblasti AI, zdôraznil naliehavosť právnych predpisov na minimalizáciu týchto rizík. Poukázal na návrh zákona v Kalifornii, ktorý by od spoločností vyžadoval prijatie bezpečnostných opatrení na zabránenie využívania AI na vývoj biologických zbraní. "Čím viac AI napreduje smerom k AGI, tým väčšie sú riziká, ak neexistujú primerané ochranné opatrenia," varoval Bengio.

Technologické spoločnosti ako Google, Meta a Anthropic tiež v súčasnosti pracujú na vývoji pokročilých systémov umelej inteligencie. Títo AI agenti by mohli pomáhať ľuďom pri plnení úloh a zároveň ponúkajú potenciálne lukratívne obchodné príležitosti pre spoločnosti, ktoré čelia obrovským nákladom na vývoj umelej inteligencie.

Mira Murati, hlavná technologická riaditeľka spoločnosti OpenAI, uviedla pre Financial Times, že spoločnosť postupuje pri zavádzaní modelov o1 obzvlášť opatrne, pretože disponujú rozsiahlymi schopnosťami. Modely však budú sprístupnené cez ChatGPT pre platiacich predplatiteľov a cez API pre programátorov. Murati dodala, že modely prešli rozsiahlymi bezpečnostnými testami a v oblasti bezpečnosti dosiahli výrazne lepšie výsledky ako predchádzajúce verzie.