Meta Platforms (dawniej znane jako Facebook) ogłosiło, że w przyszłości będzie ostrzegać użytkowników przed zaawansowanymi wideo i plikami audio wygenerowanymi przez sztuczną inteligencję, które wyglądają na zadziwiająco autentyczne.

Jeżeli użytkownicy tego nie zrobią, grożą im konsekwencje, jak podkreślił Nick Clegg, główny dyrektor ds. polityki w Metie, we wtorkowym poście na blogu. Koncern planuje używać wskazówek, aby oznaczać takie treści w swoich usługach.

To przeciwdziałanie jest konieczne, ponieważ nie jest jeszcze powszechne integrowanie niewidzialnych znaków wodnych w oprogramowaniu AI dla wideo i nagrań dźwiękowych, wyjaśnił Clegg. Jednak przyznał, że istnieją sposoby na usunięcie tych znaków wodnych.

Meta pracuje jednak nad utrudnieniem tego. Pomysł polega na integracji znaków wodnych bezpośrednio podczas tworzenia plików, co uniemożliwi ich wyłączenie. Koncern rozwija również technologie umożliwiające automatyczne rozpoznawanie treści generowanych przez AI.

Niedawno w USA wywołały poruszenie zautomatyzowane rozmowy, które naśladowały zaskakująco autentycznie brzmiący głos prezydenta Joe Bidena. Połączenia wzywały ludzi do niewzięcia udziału w prawyborach Partii Demokratycznej w stanie New Hampshire.

Ten incydent wzbudził obawy, że w nadchodzących miesiącach mogą być podjęte próby manipulacji wynikami wyborów prezydenckich w listopadzie przy użyciu niezwykle realistycznych fałszerstw opartych na sztucznej inteligencji.

W ramach sojuszu przemysłowego, Meta chce ustanowić technologie umożliwiające jednoznaczne oznaczanie plików generowanych przez AI. Koncern ma na celu oznaczenie obrazów generowanych przez AI w swoich aplikacjach Facebook, Instagram i Threads we wszystkich obsługiwanych językach.

Ponadto Meta oferuje również własne oprogramowanie AI, które tworzy obrazy na podstawie tekstowych instrukcji. Te pliki zawierają zarówno widoczne oznaczenia, jak i niewidzialne znaki wodne.

Akcje Meta Platforms tymczasowo spadły o 0,79 procenta do 455,76 dolarów amerykańskich na NASDAQ.