Ilya Sutskever, einer der Mitbegründer von OpenAI, hat nur einen Monat nach seinem formellen Ausscheiden bei OpenAI ein neues Unternehmen namens Safe Superintelligence Inc. (SSI) ins Leben gerufen.

Sutskever, der langjährige Chief Scientist von OpenAI, gründete SSI gemeinsam mit dem ehemaligen Y Combinator-Partner Daniel Gross und dem Ex-OpenAI-Ingenieur Daniel Levy.

Bei OpenAI war Sutskever maßgeblich an den Bemühungen des Unternehmens beteiligt, die Sicherheit von KI-Systemen mit steigender "Superintelligenz" zu verbessern. In diesem Bereich arbeitete er zusammen mit Jan Leike, der das Superalignment-Team von OpenAI mit leitete. Beide verließen das Unternehmen im Mai nach einem dramatischen Zerwürfnis mit der Führung von OpenAI über den Ansatz zur KI-Sicherheit. Leike leitet nun ein Team beim konkurrierenden KI-Unternehmen Anthropic.

Sutskever hat sich schon lange mit den schwierigen Aspekten der KI-Sicherheit beschäftigt. In einem 2023 veröffentlichten Blogpost prognostizierte er zusammen mit Leike, dass KI mit einer Intelligenz, die der menschlichen überlegen ist, innerhalb eines Jahrzehnts kommen könnte – und dass diese nicht unbedingt wohlwollend sein wird, was die Notwendigkeit von Forschung zur Kontrolle und Einschränkung solcher Systeme erfordert.

Am Mittwoch Nachmittag kündigte ein Tweet zur Gründung von Sutskevers neuem Unternehmen an: „SSI ist unsere Mission, unser Name und unser gesamter Produktfahrplan, weil es unser einziges Ziel ist. Unser Team, unsere Investoren und unser Geschäftsmodell sind alle darauf ausgerichtet, SSI zu erreichen. Wir nähern uns Sicherheit und Fähigkeiten gleichzeitig an, als technische Probleme, die durch revolutionäre Ingenieur- und wissenschaftliche Durchbrüche gelöst werden müssen.“

„Wir planen, die Fähigkeiten so schnell wie möglich voranzutreiben und dabei sicherzustellen, dass unsere Sicherheit immer voraus ist. Auf diese Weise können wir in Ruhe skalieren. Unser einziges Ziel bedeutet keine Ablenkung durch Management-Overhead oder Produktzyklen, und unser Geschäftsmodell bedeutet, dass Sicherheit, Sicherheit und Fortschritt vor kurzfristigen kommerziellen Zwängen geschützt sind.“

In einem Gespräch mit Bloomberg ging Sutskever näher auf das neue Unternehmen ein, vermied jedoch, über die Finanzierung oder Bewertung zu sprechen.

Es scheint jedoch klar zu sein, dass SSI im Gegensatz zu OpenAI – das ursprünglich 2015 als Non-Profit-Organisation gegründet und später umstrukturiert wurde, als der Bedarf an enormen Geldsummen für Rechenleistung offensichtlich wurde – von Anfang an als gewinnorientiertes Unternehmen konzipiert ist. Angesichts des Interesses an KI und der spezifischen Qualifikationen des Teams könnte es bald in Kapital ertrinken. „Von all den Problemen, mit denen wir konfrontiert sind“, sagt Gross gegenüber Bloomberg, „wird das Kapitalbeschaffung nicht eines davon sein.“

SSI hat Büros in Palo Alto und Tel Aviv und rekrutiert derzeit technisches Talent.