איליה סוצקבר, אחד ממייסדי OpenAI, הקים את חברת Safe Superintelligence Inc. (SSI) חודש בלבד לאחר פרישתו הרשמית מ-OpenAI.

סוצקבר, המדען הראשי הוותיק של OpenAI, הקים את SSI יחד עם השותף לשעבר ב-Y Combinator דניאל גרוס ומהנדס OpenAI לשעבר דניאל לוי.

ב-OpenAI סוצקבר היה מעורב מאמצים משמעותיים לשיפור בטיחות מערכות הבינה המלאכותית עם "סופר-אינטליגנציה" גוברת. בתחום זה הוא עבד יחד עם יאן לייקה, שהוביל במשותף את צוות ה-Superalignment ב-OpenAI. שניהם עזבו את החברה במאי לאחר סכסוך דרמטי עם הנהלת OpenAI לגבי הגישה לבטיחות הבינה המלאכותית. לייקה מנהל כעת צוות בחברת הבינה המלאכותית המתחרה Anthropic.

Here's the translated heading in Hebrew:

סוצקובר עוסק זה מכבר באספקטים המאתגרים של בטיחות הבינה המלאכותית. בפוסט שפורסם בשנת 2023, הוא יחד עם לייקה צפה שבינה מלאכותית עם אינטליגנציה על-אנושית עשויה להופיע תוך עשור - ושייתכן שלא תהיה טובת לב בהכרח, מה שמצריך מחקר לצורך שליטה והגבלת מערכות כאלה.

ביום רביעי אחר הצהריים נמשכו ציוץ שהכריז על הקמת החברה החדשה של סוצקבר: "SSI היא המשימה שלנו, שמנו ותכונית המוצרים הכוללת שלנו, כי זה המטרה היחידה שלנו. הצוות שלנו, המשקיעים שלנו והמודל העסקי שלנו כולם מכוונים להשגת SSI. אנו מתקרבים לביטחון וכשירות באותו זמן, כבעיות טכניות שצריכות להיפתר על ידי פריצות דרך מהפכניות הנדסה ומדעיות.

תכננו לקדם את היכולות במהירות האפשרית ולהבטיח שהביטחון שלנו תמיד קודם. בדרך זו נוכל להתרחב בשקט נפשי. המטרה היחידה שלנו פירושה שאין הסחות דעת על ידי התנהלות ניהולית עודפת או מחזורי מוצרים, ומודל העסקי שלנו מגן על ביטחון, אבטחה וקידמה מפני אילוצים מסחריים לטווח קצר.

בשיחה עם בלומברג סצקבר הרחיב על החברה החדשה, אך נמנע מלדבר על המימון או על ההערכה הכספית.

נראה ברור ש-SSI בניגוד ל-OpenAI – שבמקור נוסדה ב-2015 כארגון ללא מטרות רווח שפורקה ומובנה מחדש מאוחר יותר כאשר התברר הצורך בסכומי כסף עצומים לצורך ביצוע חישובים – עוצבה מראש כחברה רווחית. לאור העניין בבינה מלאכותית והכישורים הספציפיים של הצוות, ייתכן שבקרוב תטבע בכסף. "מכל הבעיות שאנו מתמודדים איתן", אמר גְרוֹס לבלומברג, "גיוס הון לא יהיה אחת מהן.

SSI מחזיקה במשרדים בפאלו אלטו ותל אביב ומגייסת כעת כשרונות טכניים.