OpenAI представи най-новите си o1-модели в четвъртък, които отбелязват значителен напредък в областта на логическото мислене, решаването на проблеми и отговарянето на научни въпроси. Моделите се разглеждат като решаваща стъпка към развитието на изкуствен общ интелект (AGI) – машини, които постигат човешка мисловна способност.
В придружаващата системна карта, която описва функционирането на ИИ, обаче OpenAI признава, че новите модели също така значително са увеличили риска от злоупотреба с технологията, особено във връзка с производството на биологични оръжия. За първи път компанията даде на своите модели „средна оценка на риск“ по отношение на химически, биологически, радиологични и ядрени (CBRN) оръжия. Това означава, че технологията значително е подобрила способностите на експертите за разработка на биологични оръжия.
Напреднал софтуер с изкуствен интелект, способен да извършва стъпкови логически разсъждения, носи повишен потенциал за злоупотреба според експерти. Йошуа Бенджио, един от водещите изследователи на изкуствения интелект в света, подчертава необходимостта от закони за минимизиране на тези рискове. Той се позовава на законопроект в Калифорния, който ще изисква от компаниите да вземат мерки за безопасност, за да предотвратят употребата на изкуствен интелект за разработка на биологични оръжия. „Колкото повече изкуственият интелект напредва към общ изкуствен интелект (AGI), толкова по-големи стават рисковете, ако няма подходящи предпазни мерки“, предупреждава Бенджио.
Технологични компании като Google, Meta и Anthropic също работят в момента по разработването на усъвършенствани системи за изкуствен интелект. Тези ИИ агенти могат да помогнат на хората в изпълнението на задачи и също така предлагат потенциално доходоносни бизнес възможности за компаниите, които се сблъскват с огромните разходи за разработка на ИИ.
Мира Мурати, главен технологичен директор на OpenAI, заяви пред Financial Times, че компанията подхожда особено предпазливо при въвеждането на o1-моделите, тъй като те притежават обширни способности. Моделите обаче ще бъдат достъпни чрез ChatGPT за плащащи абонати и чрез API за програмисти. Мурати добави, че моделите са преминали обширни тестове за безопасност и са се представили значително по-добре по отношение на безопасността в сравнение с предишните версии.
