Ilya Sutskever, một trong những người sáng lập OpenAI, đã thành lập một công ty mới mang tên Safe Superintelligence Inc. (SSI) chỉ một tháng sau khi chính thức rời khỏi OpenAI.

Sutskever, nhà khoa học trưởng kỳ cựu của OpenAI, đã cùng với cựu đối tác Y Combinator Daniel Gross và cựu kỹ sư OpenAI Daniel Levy thành lập SSI.

Tại OpenAI, Sutskever đã đóng vai trò quan trọng trong các nỗ lực của công ty nhằm cải thiện sự an toàn của các hệ thống AI với “Siêu trí tuệ” ngày càng tăng. Trong lĩnh vực này, ông đã làm việc cùng với Jan Leike, người đồng lãnh đạo nhóm Superalignment của OpenAI. Cả hai đã rời công ty vào tháng 5 sau một cuộc bất hòa kịch tính với ban lãnh đạo của OpenAI về cách tiếp cận đối với an toàn AI. Hiện Leike đang dẫn dắt một nhóm tại công ty AI cạnh tranh Anthropic.

Sutskever đã từ lâu quan tâm đến các khía cạnh khó khăn của an ninh AI. Trong một bài đăng blog công bố năm 2023, ông cùng với Leike dự đoán rằng AI với trí tuệ vượt trội hơn con người có thể xuất hiện trong vòng một thập kỷ – và rằng nó không nhất thiết phải lành mạnh, điều này đòi hỏi sự cần thiết của nghiên cứu để kiểm soát và hạn chế các hệ thống như vậy.

Vào chiều thứ Tư, một tweet đã thông báo về việc thành lập công ty mới của Sutskever: "SSI là sứ mệnh của chúng tôi, tên của chúng tôi và toàn bộ lộ trình sản phẩm của chúng tôi, vì đó là mục tiêu duy nhất của chúng tôi. Đội ngũ của chúng tôi, các nhà đầu tư của chúng tôi và mô hình kinh doanh của chúng tôi đều được định hướng để đạt được SSI. Chúng tôi tiếp cận bảo mật và khả năng cùng lúc, như các vấn đề kỹ thuật cần được giải quyết bằng các đột phá về kỹ thuật và khoa học cách mạng.

„Chúng tôi lập kế hoạch để thúc đẩy khả năng nhanh nhất có thể và đảm bảo rằng an ninh của chúng tôi luôn đi đầu. Bằng cách này, chúng tôi có thể mở rộng một cách thoải mái. Mục tiêu duy nhất của chúng tôi có nghĩa là không bị phân tâm bởi chi phí quản lý hoặc chu kỳ sản phẩm, và mô hình kinh doanh của chúng tôi nghĩa là bảo vệ an ninh, an toàn và tiến bộ khỏi các sức ép thương mại ngắn hạn.“

Trong một cuộc trò chuyện với Bloomberg, Sutskever đã nói rõ hơn về công ty mới nhưng tránh thảo luận về vấn đề tài chính hoặc định giá.

Sự khác biệt rõ ràng là SSI, trái ngược với OpenAI – tổ chức ban đầu được thành lập vào năm 2015 như một tổ chức phi lợi nhuận và sau đó được tái cấu trúc khi nhu cầu về số tiền khổng lồ để tính toán trở nên rõ ràng – được thiết kế từ đầu như một công ty vì lợi nhuận. Với sự quan tâm đến AI và các kỹ năng cụ thể của đội ngũ, nó có thể sớm ngập trong vốn. "Trong tất cả các vấn đề mà chúng tôi gặp phải," Gross nói với Bloomberg, "việc gây quỹ sẽ không phải là một trong số đó.

SSI có văn phòng ở Palo Alto và Tel Aviv và hiện đang tuyển dụng nhân tài kỹ thuật.