Google rejoint la coalition de lutte contre la contrefaçon : Combattre les faux générés par l'IA

Face aux préoccupations croissantes concernant l'authenticité des contenus numériques, Google a rejoint une initiative pionnière. La coalition pour l'origine et l'authenticité des contenus, connue sous le nom de C2PA, se consacre au développement de technologies pour la vérification des contenus numériques. Ces nouveaux certificats de contenu, qui contiennent entre autres des informations sur l'auteur et les outils de montage utilisés, visent également à révéler si de l'intelligence artificielle a été employée lors de leur création. Google envisage d'évaluer les possibilités d'intégration de ces caractéristiques de sécurité dans ses propres produits et services. La nécessité d'un tel système a été soulignée dans une déclaration récente de la C2PA : « Dans un monde où les contenus numériques pourraient potentiellement être manipulés, nous devons être capables de prouver leur authenticité. » L'objectif de la coalition est d'établir sa technologie en tant que standard universel, permettant une vérification uniforme des contenus à travers diverses plateformes et services. Les membres fondateurs de la C2PA comprennent Adobe en tant que créateur de Photoshop, ainsi que des poids lourds de la technologie tels qu'Intel, Microsoft et Sony. L'urgence d'une telle initiative a été récemment mise en évidence par des incidents aux États-Unis, où des appels téléphoniques automatisés imitant avec une troublante précision la voix du président Joe Biden ont semé le trouble. Les appels diffusaient le message dissuadant de participer à la primaire du Parti démocrate dans l'État du New Hampshire. Une telle tentative de manipulation soulève des inquiétudes quant à l'influence que pourraient avoir des falsifications utilisant une IA trompeusement réelle sur le résultat des élections présidentielles en novembre.