OpenAI đã giới thiệu các mô hình o1 mới nhất của mình vào thứ Năm, mang lại những tiến bộ đáng kể trong tư duy logic, giải quyết vấn đề và trả lời các câu hỏi khoa học. Các mô hình này được coi là bước quan trọng trên con đường phát triển trí tuệ nhân tạo chung (AGI) – những cỗ máy đạt được khả năng tư duy của con người.

Trong bản đồ hệ thống đi kèm mô tả cách thức hoạt động của AI, OpenAI thừa nhận rằng các mô hình mới cũng đã "tăng đáng kể" nguy cơ lạm dụng công nghệ, đặc biệt là trong việc chế tạo vũ khí sinh học. Lần đầu tiên, công ty đã đưa ra "đánh giá rủi ro trung bình" cho các mô hình của mình liên quan đến vũ khí hóa học, sinh học, phóng xạ và hạt nhân (CBRN). Điều này có nghĩa là công nghệ đã cải thiện đáng kể khả năng của các chuyên gia trong việc phát triển vũ khí sinh học.

Phần mềm trí tuệ nhân tạo tiên tiến, có khả năng thực hiện lập luận logic từng bước, mang hiện tiềm năng bị lạm dụng cao hơn, theo quan điểm của các chuyên gia. Yoshua Bengio, một trong những nhà nghiên cứu trí tuệ nhân tạo hàng đầu thế giới, nhấn mạnh sự cấp bách của các quy định pháp lý để giảm thiểu những rủi ro này. Ông đã đề cập đến một dự luật ở California, yêu cầu các công ty phải thực hiện các biện pháp an toàn để ngăn chặn việc sử dụng trí tuệ nhân tạo để phát triển vũ khí sinh học. "Càng nhiều trí tuệ nhân tạo tiến gần đến trí tuệ nhân tạo tổng hợp (AGI), rủi ro càng lớn nếu không có các biện pháp bảo vệ thích hợp", Bengio cảnh báo.

Các công ty công nghệ như Google, Meta và Anthropic cũng đang nỗ lực phát triển các hệ thống AI tiên tiến. Những AI này có thể hỗ trợ con người thực hiện các nhiệm vụ và cung cấp cơ hội kinh doanh tiềm năng sinh lợi cho các công ty đang đối mặt với chi phí khổng lồ của việc phát triển AI.

Mira Murati, Giám đốc Công nghệ của OpenAI, đã giải thích với Financial Times rằng công ty đang rất thận trọng trong việc ra mắt các mô hình o1, vì chúng có khả năng rộng rãi. Tuy nhiên, các mô hình này sẽ được cung cấp thông qua ChatGPT cho các thuê bao trả phí và thông qua API cho các lập trình viên. Murati nói thêm rằng các mô hình đã trải qua các thử nghiệm an ninh nghiêm ngặt và thể hiện tốt hơn đáng kể về mặt an ninh so với các phiên bản trước đó.