Ilya Sutskever, jeden z współzałożycieli OpenAI, założył nowe przedsiębiorstwo o nazwie Safe Superintelligence Inc. (SSI) zaledwie miesiąc po formalnym odejściu z OpenAI.

Sutskever, wieloletni główny naukowiec OpenAI, założył SSI wspólnie z byłym partnerem Y Combinator, Danielem Grossem i byłym inżynierem OpenAI, Danielem Levy.

W OpenAI Sutskever był kluczowym uczestnikiem starań firmy mających na celu poprawę bezpieczeństwa systemów sztucznej inteligencji z rosnącą "superinteligencją". W tej dziedzinie współpracował z Janem Leike, który współkierował zespołem Superalignment w OpenAI. Oboje opuścili firmę w maju po dramatycznym sporze z kierownictwem OpenAI na temat podejścia do bezpieczeństwa sztucznej inteligencji. Leike teraz kieruje zespołem w konkurencyjnej firmie Anthropic zajmującej się sztuczną inteligencją.

Sutskever zajmuje się trudnymi aspektami bezpieczeństwa AI od dawna. W opublikowanym w 2023 roku poście na blogu przewidywał wraz z Leike, że AI o inteligencji przewyższającej ludzką może pojawić się w ciągu dekady - i że niekoniecznie będzie ona życzliwa, co wymaga badań nad kontrolą i ograniczeniem takich systemów.

Am Mittwochnachmittag kündigte ein Tweet die Gründung von Sutskevers neuem Unternehmen an: „SSI ist unsere Mission, unser Name und unser gesamter Produktfahrplan, weil es unser einziges Ziel ist. Unser Team, unsere Investoren und unser Geschäftsmodell sind alle darauf ausgerichtet, SSI zu erreichen. Wir nähern uns Sicherheit und Fähigkeiten gleichzeitig an, als technische Probleme, die durch revolutionäre Ingenieur- und wissenschaftliche Durchbrüche gelöst werden müssen.“

W środę po południu tweet ogłosił założenie nowej firmy Sutskevera: „SSI jest naszą misją, naszą nazwą i całym naszym planem produktowym, ponieważ jest naszym jedynym celem. Nasz zespół, nasi inwestorzy i nasz model biznesowy są wszyscy nastawieni na osiągnięcie SSI. Podchodzimy do kwestii bezpieczeństwa i możliwości jednocześnie, jako do problemów technicznych, które muszą zostać rozwiązane przez rewolucyjne przełomy w inżynierii i nauce.”

„Planujemy jak najszybszy rozwój umiejętności, jednocześnie dbając o to, aby nasze bezpieczeństwo zawsze było priorytetem. W ten sposób możemy skalować w spokoju. Naszym jedynym celem jest uniknięcie rozpraszania uwagi przez zarządzanie lub cykle produktowe, a nasz model biznesowy oznacza, że bezpieczeństwo, stabilność i postęp są chronione przed krótkoterminowymi ograniczeniami komercyjnymi.”

W rozmowie z Bloomberg Sutskever szczegółowo omówił nową firmę, ale unikał rozmów o finansowaniu lub wycenie.

Jednakże wydaje się jasne, że SSI, w przeciwieństwie do OpenAI - które pierwotnie zostało założone jako organizacja non-profit w 2015 roku, a później przekształcone w odpowiedzi na ogromne zapotrzebowanie na środki na moc obliczeniową - od samego początku było pomyślane jako przedsiębiorstwo nastawione na zysk. Biorąc pod uwagę zainteresowanie sztuczną inteligencją i specyficzne kwalifikacje zespołu, wkrótce może tonąć w kapitale. „Spośród wszystkich problemów, przed którymi stoimy,” mówi Gross dla Bloomberga, „pozyskiwanie kapitału nie będzie jednym z nich.”

SSI ma biura w Palo Alto i Tel Awiwie oraz rekrutuje obecnie talenty techniczne.