"Meta Platforms (anteriormente conocida como Facebook) ha anunciado que advertirá a los usuarios sobre videos y archivos de audio avanzados de Inteligencia Artificial que parecen engañosamente reales."
Si los usuarios fallan en esto, enfrentarán consecuencias, como enfatizó Nick Clegg, el Director de Políticas de Meta, el martes en una publicación de blog. La empresa planea utilizar advertencias para marcar este tipo de contenido en sus servicios.
Esta medida es necesaria dado que aún no es común integrar marcas de agua invisibles en software de IA para videos y grabaciones de audio, explicó Clegg. Sin embargo, admitió que existen medios y maneras de eliminar estas marcas de agua.
Meta trabaja, sin embargo, en dificultar esto. La idea es integrar las marcas de agua directamente en la creación de los archivos, lo que hace que no puedan desactivarse. La empresa también está desarrollando tecnologías para detectar automáticamente contenidos generados por IA.
Recientemente, llamadas automatizadas causaron conmoción en EE. UU. al imitar una voz engañosamente realista del presidente Joe Biden. Las llamadas instaban a la gente a no participar en las elecciones primarias del Partido Demócrata en el estado de New Hampshire.
Este incidente ha suscitado preocupación de que en los próximos meses se puedan hacer intentos para influir en el resultado de las elecciones presidenciales de noviembre mediante el uso de falsificaciones de IA sorprendentemente reales.
Como parte de una alianza industrial, Meta quiere establecer tecnologías para marcar de forma única archivos generados por IA. El grupo tiene el objetivo de etiquetar imágenes generadas por IA en sus aplicaciones Facebook, Instagram y Threads en todos los idiomas soportados.
Además, Meta también ofrece su propio software de IA que crea imágenes basadas en instrucciones de texto. Estos archivos contienen tanto marcas visibles como marcas de agua invisibles.
La acción de Meta Platforms cayó temporalmente un 0,79 por ciento a 455,76 dólares estadounidenses en el NASDAQ.
