Meta Platforms (anciennement connu sous le nom de Facebook) annonce qu'il va désormais avertir les utilisateurs contre des vidéos et fichiers audio ultramodernes issus de l'intelligence artificielle qui semblent étonnamment réels.

Si les utilisateurs manquent à cela, des conséquences les menacent, a souligné Nick Clegg, le directeur des politiques de Meta, mardi dans un article de blog. Le groupe prévoit d'utiliser des avertissements pour marquer de tels contenus dans ses services.

Cette mesure est nécessaire car il n'est pas encore courant d'intégrer des filigranes invisibles dans les logiciels d'IA pour les vidéos et les enregistrements audio, a expliqué Clegg. Cependant, il a reconnu qu'il existe des moyens de supprimer ces filigranes.

Meta travaille cependant à rendre cela plus difficile. L'idée est d'intégrer les filigranes directement dans la création des fichiers, de sorte qu'ils ne puissent plus être désactivés. Le groupe développe également des technologies pour détecter automatiquement les contenus générés par IA.

Des appels automatisés récents aux États-Unis ont créé l'émoi, imitant la voix troublante de réalisme du président Joe Biden. Ces appels incitaient les gens à ne pas participer à la primaire du Parti Démocrate dans l'État du New Hampshire.

Cet incident a suscité des inquiétudes quant à la possibilité que de tentatives soient entreprises dans les mois à venir pour influencer le résultat de l'élection présidentielle de novembre à l'aide de fausses créations en IA d'un réalisme trompeur.

Dans le cadre d'une alliance industrielle, Meta souhaite établir des technologies permettant de marquer de manière unique les fichiers générés par IA. Le groupe s'est fixé comme objectif de marquer les images créées par IA dans ses applications Facebook, Instagram et Threads dans toutes les langues prises en charge.

De plus, Meta propose également son propre logiciel d'IA capable de créer des images à partir de consignes textuelles. Ces fichiers contiennent des marquages visibles ainsi que des filigranes invisibles.

Le titre de Meta Platforms a temporairement chuté de 0,79 % à 455,76 dollars américains sur le NASDAQ.