El gobernador de California Newsom frena la innovación: veto a la ley pionera sobre IA

El gobernador de California, Gavin Newsom, ha rechazado una ley innovadora que preveía la regulación más estricta hasta la fecha de la inteligencia artificial (IA) en Estados Unidos. El "Safe and Secure Innovation for Frontier Artificial Intelligence Models Act" habría exigido a las empresas que invierten más de 100 millones de dólares en el entrenamiento de modelos de IA implementar medidas de seguridad obligatorias, para prevenir, entre otras cosas, colisiones masivas e incluir una función de "interruptor de emergencia" que pudiera desactivar por completo un modelo malicioso. Newsom justificó su veto alegando que el proyecto de ley SB 1047, aunque "bien intencionado", no consideraba si un sistema de IA se utiliza en entornos de riesgo o toma decisiones sensibles. Según dicha argumentación, incluso las funciones básicas serían reguladas estrictamente si fueran empleadas por un gran sistema. "No creo que este sea el mejor enfoque para proteger al público de las amenazas reales de la tecnología", explicó el gobernador. En el marco de su veto, Newsom anunció que está colaborando con expertos líderes, incluida la "madrina de la IA" Fei-Fei Li, para establecer directrices en el uso de la IA generativa. Además, instruyó a las agencias estatales para expandir su evaluación de riesgos en relación con la tecnología. La regulación de la IA ha dado lugar a acalorados debates dentro y fuera del Silicon Valley. Empresas como OpenAI, Google y Meta se pronunciaron públicamente en contra de la ley, mientras que Anthropic señaló un apoyo cauteloso bajo ciertas condiciones. A pesar de la oposición de Big Tech, más de 100 empleados actuales y antiguos de Google, Meta, OpenAI y Anthropic instaron a Newsom a firmar la ley y advirtieron sobre los posibles graves riesgos de los modelos de IA avanzados. Más de 125 actores, directores y ejecutivos del sector del entretenimiento también apelaron a Newsom para que firmara la ley, declarando: "Creemos firmemente en el brillante potencial de la IA para hacer el bien. Pero también debemos ser realistas sobre los riesgos". El proyecto de ley SB 1047 equilibra la necesidad de fomentar la innovación en una industria que cambia rápidamente con la necesidad de asegurar el uso responsable de las tecnologías. Durante la conferencia Dreamforce, Newsom discutió sus preocupaciones respecto a SB 1047 con el CEO de Salesforce, Marc Benioff, y destacó lo importante que es preservar la competitividad de California. Prominentes defensores de la ley incluyen al multimillonario y CEO de xAI, Elon Musk, así como los "Padres de la IA", Yoshua Bengio y Geoffrey Hinton. El autor principal de la ley, el senador Scott Wiener, la calificó como un marco razonable para una tecnología subregulada y subrayó la necesidad de una ley federal sólida y uniforme. Newsom expresó su apoyo para proteger al público de los peligros reales, pero señaló que cualquier marco regulador debe mantenerse a la par con la tecnología. Mientras que SB 1047 apuntaba a abordar los riesgos a largo plazo de los modelos avanzados, Newsom firmó el mes pasado otras 17 leyes relacionadas con la IA, enfocadas en peligros inmediatos como los contenidos de deepfake en elecciones y la regulación de contenidos sexualmente explícitos generados por IA. El presidente Joe Biden destacó en su discurso ante la Asamblea General de las Naciones Unidas la necesidad de estándares globales para proteger la vida humana de los riesgos de la IA, señalándolo como un desafío crucial para el liderazgo futuro.