Europa verscherpt controle op gegevensbescherming van Google's AI-model

Googles omgang met persoonlijke gegevens tijdens de ontwikkeling van een van zijn kunstmatige intelligentie-modellen staat onder toezicht van de Europese gegevensbeschermingsautoriteit. Dit vormt een verscherpte toetsing van de AI-ambities van Big Tech in Europa. De Ierse gegevensbeschermingscommissie (DPC), die verantwoordelijk is voor de handhaving van de Algemene Verordening Gegevensbescherming (AVG) van de Europese Unie, heeft een officieel onderzoek ingesteld naar Googles Pathways Language Model 2 (PaLM 2). PaLM 2, dat in mei 2023 werd geïntroduceerd, is de voorganger van Googles nieuwste Gemini-modellen, die sinds december van datzelfde jaar de basis vormen voor de tekst- en beeldgeneratiesystemen van het bedrijf. Het onderzoek is gericht op het vaststellen of Google zijn wettelijke verplichtingen onder de AVG heeft geschonden met betrekking tot de verwerking van persoonlijke gegevens van EU-burgers en inwoners van de Europese Economische Ruimte. Volgens de voorschriften moeten bedrijven een gegevensbeschermingseffectbeoordeling uitvoeren voordat zij met de verwerking van dergelijke gegevens beginnen, vooral wanneer dit gebruik een hoog risico inhoudt voor de rechten en vrijheden van de betrokken personen. Dit proces is vooral bij nieuwe technologieën van cruciaal belang om ervoor te zorgen dat de grondrechten en vrijheden van individuen adequaat worden overwogen en beschermd, benadrukte de toezichthouder in een verklaring. Momenteel wordt deze beoordeling in het kader van het onderzoek onderzocht. Google heeft tot nu toe niet gereageerd op verzoeken om een verklaring. Dit is de nieuwste maatregel van de DPC tegen grote technologiebedrijven die uitgebreide taalmodellen ontwikkelen. In juni pauzeerde Meta zijn plannen om zijn model Llama te trainen aan de hand van openbare inhoud van volwassenen op Facebook en Instagram in Europa, na gesprekken met de Ierse toezichthouder. Als gevolg daarvan beperkte Meta de beschikbaarheid van enkele van zijn AI-producten voor gebruikers in de regio. Een maand later merkten X-gebruikers dat hun berichten zonder hun medeweten werden gebruikt voor training van systemen van Elon Musk's xAI-startup. Het platform stopte daarop in augustus de verwerking van gegevens van Europese gebruikers voor de training van hun Grok-KI-model na juridische stappen van de DPC. Dit was de eerste keer dat de autoriteit haar bevoegdheden inzette om een dergelijke maatregel tegen een technologiebedrijf te nemen.