Google setzt Zeichen gegen KI-Manipulation: Bald Kennzeichnung von AI-generierten Bildern in der Suche

Google wird in den nächsten Monaten Änderungen an der Google-Suche einführen, die klarer machen, welche Bilder in den Suchergebnissen durch KI generiert oder bearbeitet wurden. Diese neuen Kennzeichnungen werden im 'Über dieses Bild'-Fenster bei Google Search, Google Lens und der Circle-to-Search-Funktion auf Android-Geräten erscheinen. Auch andere Google-Dienste wie YouTube könnten in Zukunft ähnliche Hinweise erhalten. Die Kennzeichnung wird ausschließlich Bilder betreffen, die 'C2PA-Metadaten' enthalten. Die Coalition for Content Provenance and Authenticity (C2PA) arbeitet an technischen Standards, um die Historie eines Bildes, einschließlich der verwendeten Geräte und Software, nachvollziehbar zu machen. Neben Google unterstützen auch Amazon, Microsoft, OpenAI und Adobe diese Initiative. Allerdings sind die C2PA-Standards bisher nicht weit verbreitet, da nur wenige generative KI-Tools und Kameras von Herstellern wie Leica und Sony diese Vorgaben erfüllen. Ein weiteres Hindernis ist, dass C2PA-Metadaten – wie alle Metadaten – entfernt oder unlesbar gemacht werden können. Beliebte generative KI-Tools wie Flux, das vom xAI Grok-Chatbot verwendet wird, implementieren C2PA-Metadaten nicht, weil die Entwickler die Standards nicht unterstützen. Angesichts der wachsenden Verbreitung von Deepfakes sind jedoch selbst kleinere Maßnahmen hilfreich. Schätzungen zufolge stieg die Anzahl der Betrugsfälle mit KI-generierten Inhalten zwischen 2023 und 2024 um 245 %. Deloitte prognostiziert, dass die durch Deepfakes verursachten Verluste von 12,3 Milliarden USD im Jahr 2023 auf 40 Milliarden USD bis 2027 ansteigen werden. Umfragen zeigen, dass die Mehrheit der Menschen besorgt darüber ist, durch einen Deepfake getäuscht zu werden und dass KI die Verbreitung von Propaganda fördern könnte.