Ilya Sutskever, en af medstifterne af OpenAI, har kun en måned efter sin formelle afsked fra OpenAI startet et nyt firma ved navn Safe Superintelligence Inc. (SSI).

Sure, here is the translated heading in Danish:

"Sutskever, den mangeårige Chief Scientist for OpenAI, grundlagde SSI sammen med den tidligere Y Combinator-partner Daniel Gross og den tidligere OpenAI-ingeniør Daniel Levy.

Hos OpenAI var Sutskever i høj grad involveret i virksomhedens bestræbelser på at forbedre sikkerheden af ​​AI-systemer med stigende "superintelligens". På dette område arbejdede han sammen med Jan Leike, som var med til at lede Superalignment-teamet hos OpenAI. Begge forlod virksomheden i maj efter en dramatisk splid med OpenAI's ledelse om tilgangen til AI-sikkerhed. Leike leder nu et team hos den konkurrerende AI-virksomhed Anthropic.

Sutskever har længe beskæftiget sig med de svære aspekter af AI-sikkerhed. I et blogindlæg fra 2023 forudsagde han sammen med Leike, at AI med en intelligens, der overgår menneskelig intelligens, kunne komme inden for et årti – og at denne ikke nødvendigvis vil være velvillig, hvilket nødvendiggør forskning i kontrol og begrænsning af sådanne systemer.

Om onsdag eftermiddag annoncerede en tweet dannelsen af Sutskevers nye virksomhed: "SSI er vores mission, vores navn og vores hele produktkøreplan, fordi det er vores eneste mål. Vores team, vores investorer og vores forretningsmodel er alle rettet mod at nå SSI. Vi nærmer os sikkerhed og kapaciteter samtidig som tekniske problemer, der skal løses gennem revolutionerende ingeniør- og videnskabelige gennembrud.

„Vi planlægger at fremme evnerne så hurtigt som muligt og samtidig sikre, at vores sikkerhed altid er foran. På denne måde kan vi skalere i ro. Vores eneste mål betyder ingen afbrydelser fra ledelsesbyrde eller produktcyklusser, og vores forretningsmodel betyder, at sikkerhed, sikkerhed og fremskridt er beskyttet mod kortsigtede kommercielle begrænsninger.“

I en samtale med Bloomberg gik Sutskever nærmere ind på den nye virksomhed, men undgik at tale om finansieringen eller vurderingen.

Det synes dog klart, at SSI i modsætning til OpenAI - der oprindeligt blev grundlagt som en nonprofitorganisation i 2015 og senere blev omstruktureret, da behovet for enorme pengesummer til beregningskraft blev indlysende - fra starten er blevet designet som en profitvirksomhed. På grund af interessen for AI og teamets specifikke kvalifikationer kunne den snart drukne i kapital. "Af alle de problemer, vi står over for," siger Gross til Bloomberg, "vil kapitalfremskaffelse ikke være et af dem.

SSI har kontorer i Palo Alto og Tel Aviv og rekrutterer i øjeblikket teknisk talent.