Europa refuerza el control de protección de datos sobre el modelo de IA de Google

El manejo de datos personales por parte de Google durante el desarrollo de uno de sus modelos de inteligencia artificial está bajo la observación de la autoridad europea de protección de datos. Esto representa un escrutinio intensificado de las ambiciones de IA de Big Tech en Europa. La Comisión de Protección de Datos de Irlanda (DPC, por sus siglas en inglés), que es responsable de la aplicación del Reglamento General de Protección de Datos (GDPR) de la Unión Europea, ha iniciado una investigación oficial contra el modelo de lenguaje Pathways 2 (PaLM 2) de Google. PaLM 2, que se presentó en mayo de 2023, es el predecesor de los nuevos modelos Gemini de Google, que desde diciembre del mismo año forman la base de los sistemas de generación de texto e imágenes de la empresa. El objetivo de la investigación es determinar si Google ha incumplido sus obligaciones legales bajo el GDPR en relación con el procesamiento de datos personales de ciudadanos de la UE y residentes del Espacio Económico Europeo. De acuerdo con las regulaciones, las empresas deben llevar a cabo una evaluación de impacto en la protección de datos antes de comenzar a procesar dichos datos, especialmente si este uso conlleva un alto riesgo para los derechos y libertades de las personas afectadas. Este proceso es especialmente crucial para las nuevas tecnologías, para garantizar que los derechos y libertades fundamentales de los individuos sean adecuadamente considerados y protegidos, enfatizó la autoridad reguladora en un comunicado. Actualmente, esta evaluación se está examinando en el marco de la investigación. Hasta el momento, Google no ha respondido a las solicitudes de comentarios. Esta es la última medida de la DPC contra grandes empresas tecnológicas que desarrollan modelos de lenguaje extensivos. En junio, Meta pausó sus planes de entrenar su modelo Llama usando contenido público de adultos en Facebook e Instagram en Europa, tras conversaciones con la autoridad irlandesa. Posteriormente, Meta limitó la disponibilidad de algunos de sus productos de IA para los usuarios en la región. Un mes después, los usuarios de X descubrieron que sus publicaciones se estaban utilizando sin su conocimiento para entrenar los sistemas de la empresa de Elon Musk, xAI. En consecuencia, en agosto, la plataforma detuvo el procesamiento de los datos de usuarios europeos para entrenar su modelo de IA Grok tras acciones legales por parte de la DPC. Esta fue la primera vez que la autoridad utilizó sus poderes para tomar una medida de ese tipo contra una empresa tecnológica.