OpenAI presentó el jueves sus últimos modelos o1, que ofrecen avances significativos en el campo del razonamiento lógico, la resolución de problemas y la respuesta a preguntas científicas. Los modelos se consideran un paso crucial en el camino hacia el desarrollo de una inteligencia general artificial (AGI) – máquinas que alcanzan una capacidad de pensamiento humano.

En la tarjeta del sistema adjunta, que describe el funcionamiento de la IA, OpenAI reconoce que los nuevos modelos también han "aumentado significativamente" el riesgo de abuso de la tecnología, especialmente en relación con la fabricación de armas biológicas. Por primera vez, la empresa otorgó a sus modelos una "clasificación de riesgo medio" en relación con las armas químicas, biológicas, radiológicas y nucleares (CBRN). Esto significa que la tecnología ha mejorado significativamente las habilidades de los expertos para desarrollar armas biológicas.

Software de IA avanzada, capaz de realizar argumentaciones lógicas paso a paso, presenta un mayor potencial de abuso según expertos. Yoshua Bengio, uno de los principales investigadores de IA del mundo, enfatizó la urgencia de regulaciones legales para minimizar estos riesgos. Hizo referencia a un proyecto de ley en California que exigiría a las empresas tomar medidas de seguridad para evitar el uso de IA en el desarrollo de armas biológicas. “Cuanto más avanza la IA hacia la AGI, mayores serán los riesgos si no existen medidas de protección adecuadas”, advirtió Bengio.

Empresas de tecnología como Google, Meta y Anthropic también están trabajando actualmente en el desarrollo de sistemas avanzados de IA. Estos agentes de IA podrían ayudar a las personas a realizar tareas y ofrecer además oportunidades de negocio potencialmente lucrativas para empresas que enfrentan los enormes costos del desarrollo de IA.

Mira Murati, directora de tecnología de OpenAI, declaró al Financial Times que la empresa está siendo especialmente cautelosa al lanzar los modelos o1, ya que poseen capacidades muy amplias. Sin embargo, los modelos estarán disponibles a través de ChatGPT para suscriptores de pago y mediante una API para programadores. Murati añadió que los modelos han sido sometidos a exhaustivas pruebas de seguridad y tienen un desempeño significativamente mejor en términos de seguridad en comparación con versiones anteriores.