Meta Platforms (ehemals bekannt als Facebook) hat angekündigt, Nutzer künftig vor hochmodernen Videos und Audiodateien aus Künstlicher Intelligenz zu warnen, die täuschend echt wirken.

Wenn Nutzer dies versäumen, drohen ihnen Konsequenzen, wie Metas Chief Policy Officer Nick Clegg am Dienstag in einem Blogbeitrag betonte. Der Konzern plant, Hinweise zu verwenden, um solche Inhalte in seinen Diensten zu kennzeichnen.

Diese Maßnahme ist notwendig, da es noch nicht üblich ist, in KI-Software für Videos und Tonaufnahmen unsichtbare Wasserzeichen zu integrieren, erklärte Clegg. Jedoch räumte er ein, dass es Mittel und Wege gibt, um diese Wasserzeichen zu entfernen.

Meta arbeitet jedoch daran, dies zu erschweren. Die Idee ist, die Wasserzeichen direkt in die Erstellung der Dateien zu integrieren, wodurch sie nicht mehr deaktiviert werden können. Der Konzern entwickelt auch Technologien, um automatisch KI-generierte Inhalte zu erkennen.

Vor kurzem hatten automatisierte Anrufe in den USA für Aufregung gesorgt, die eine täuschend echt klingende Stimme von Präsident Joe Biden nachahmten. Die Anrufe forderten die Menschen auf, nicht an der Vorwahl der Demokratischen Partei im Bundesstaat New Hampshire teilzunehmen.

Dieser Vorfall hat die Besorgnis geschürt, dass in den kommenden Monaten Versuche unternommen werden könnten, den Ausgang der Präsidentenwahl im November mit dem Einsatz von täuschend echten KI-Fälschungen zu beeinflussen.

Als Teil einer Industrie-Allianz möchte Meta Technologien etablieren, die dazu dienen, KI-generierte Dateien eindeutig zu kennzeichnen. Der Konzern hat sich zum Ziel gesetzt, KI-Bilder in seinen Apps Facebook, Instagram und Threads in allen unterstützten Sprachen zu markieren.

Zudem bietet Meta auch selbst KI-Software an, die Bilder auf Grundlage von Textvorgaben erstellt. Diese Dateien enthalten sowohl sichtbare Markierungen als auch unsichtbare Wasserzeichen.

Die Aktie von Meta Platforms fiel vorübergehend um 0,79 Prozent auf 455,76 US-Dollar an der NASDAQ.