Ilya Sutskever, l'un des cofondateurs d'OpenAI, a lancé une nouvelle entreprise nommée Safe Superintelligence Inc. (SSI) seulement un mois après son départ officiel d'OpenAI.
Sutskever, ancien Chief Scientist de longue date chez OpenAI, a fondé SSI avec l'ex-partenaire de Y Combinator Daniel Gross et l'ancien ingénieur de OpenAI Daniel Levy.
Chez OpenAI, Sutskever a joué un rôle clé dans les efforts de l'entreprise pour améliorer la sécurité des systèmes d'IA avec une "superintelligence" croissante. Dans ce domaine, il a travaillé avec Jan Leike, qui co-dirigeait l'équipe de superalignement d'OpenAI. Tous deux ont quitté l'entreprise en mai après une rupture dramatique avec la direction d'OpenAI au sujet de l'approche de la sécurité de l'IA. Leike dirige maintenant une équipe chez l'entreprise concurrente Anthropic.
Sutskever s'intéresse depuis longtemps aux aspects difficiles de la sécurité de l'IA. Dans un article de blog publié en 2023, il a prévu avec Leike que l'IA dotée d'une intelligence supérieure à celle de l'homme pourrait émerger d'ici une décennie – et qu'elle ne sera pas nécessairement bienveillante, ce qui souligne la nécessité de recherches visant à contrôler et à limiter de tels systèmes.
Après-midi de mercredi, un tweet annonce la création de la nouvelle entreprise de Sutskever : « SSI est notre mission, notre nom et notre plan de développement produit, car c'est notre seul objectif. Notre équipe, nos investisseurs et notre modèle commercial sont tous alignés pour atteindre SSI. Nous abordons la sécurité et les capacités en même temps, comme des problèmes techniques à résoudre par des percées révolutionnaires en ingénierie et en science. »
„Nous prévoyons de faire progresser les compétences aussi rapidement que possible tout en nous assurant que notre sécurité est toujours en avance. De cette manière, nous pouvons évoluer en toute tranquillité. Notre seul objectif signifie qu'il n'y a aucune distraction due à la surcharge de gestion ou aux cycles de produits, et notre modèle commercial signifie que la sécurité, la sûreté et les progrès sont protégés contre les contraintes commerciales à court terme.“
Lors d'une conversation avec Bloomberg, Sutskever a donné plus de détails sur la nouvelle entreprise, mais a évité de parler du financement ou de l'évaluation.
Il semble cependant clair que SSI, contrairement à OpenAI - qui a été initialement fondée en 2015 en tant qu'organisation à but non lucratif et qui a ensuite été restructurée lorsque le besoin de sommes d'argent énormes pour la puissance de calcul est devenu évident - a été conçu dès le départ comme une entreprise à but lucratif. Compte tenu de l'intérêt pour l'IA et des qualifications spécifiques de l'équipe, elle pourrait bientôt crouler sous les capitaux. «De tous les problèmes auxquels nous sommes confrontés», dit Gross à Bloomberg, «la levée de capitaux n'en sera pas un.»
SSI a des bureaux à Palo Alto et Tel Aviv et recrute actuellement des talents techniques.
