AI
OpenAI predstavlja nove o1-modele s naprednim sposobnostima rješavanja problema i upozorava na rizike zloupotrebe
OpenAI je postigao veliki tehnološki napredak s o1-modelima, no istovremeno upozorava na povećani rizik od zlouporabe, posebno u pogledu razvoja biološkog oružja.
OpenAI je u četvrtak predstavio svoje najnovije o1-modele, koji nude značajan napredak u području logičkog razmišljanja, rješavanja problema i odgovaranja na znanstvena pitanja. Smatra se da su modeli ključan korak prema razvoju umjetne opće inteligencije (AGI) – strojeva koji dosežu razinu ljudske sposobnosti razmišljanja.
U pratećoj karti sustava, koja opisuje način rada umjetne inteligencije, OpenAI priznaje da su novi modeli također značajno povećali rizik od zlouporabe tehnologije, posebno u vezi s proizvodnjom biološkog oružja. Tvrtka je po prvi put dodijelila svojim modelima "srednju procjenu rizika" u pogledu kemijskog, biološkog, radiološkog i nuklearnog (CBRN) oružja. To znači da je tehnologija značajno poboljšala sposobnosti stručnjaka za razvoj biološkog oružja.
Napredni AI softver, koji je sposoban za izvođenje postupne logičke argumentacije, prema mišljenju stručnjaka nosi povećan potencijal za zloupotrebu. Yoshua Bengio, jedan od vodećih svjetskih istraživača umjetne inteligencije, istaknuo je hitnost zakonskih regulativa kako bi se minimizirali ovi rizici. On je ukazao na nacrt zakona u Kaliforniji, koji bi od kompanija zahtijevao poduzimanje sigurnosnih mjera kako bi se spriječila upotreba AI za razvoj biološkog oružja. "Što više AI napreduje prema AGI, to su veći rizici ako ne postoje odgovarajuće mjere zaštite", upozorio je Bengio.
Tehnološke kompanije poput Googlea, Mete i Anthropica također rade na razvoju naprednih AI sustava. Ti AI agenti mogli bi pomagati ljudima u obavljanju zadataka i nuditi potencijalno unosne poslovne mogućnosti za tvrtke koje se suočavaju s enormnim troškovima razvoja AI-a.
Mira Murati, glavna tehnološka direktorica OpenAI-ja, izjavila je za Financial Times da je tvrtka posebno oprezna pri uvođenju o1 modela jer posjeduju široke sposobnosti. Ipak, modeli će biti dostupni putem ChatGPT-a za pretplatnike koji plaćaju i putem API-ja za programere. Murati je dodala da su modeli prošli opsežne sigurnosne testove i postigli znatno bolje rezultate u pogledu sigurnosti u usporedbi s ranijim verzijama.
