Entreprises utilisant des photos ou de l'audio pour vérifier l'identité de leurs clients se préparent face au risque de supercheries créées par l'intelligence artificielle générative. Les deepfakes, ou images et vidéos artificiellement créées et d'apparence trompeusement réelle, sont déjà un sujet de préoccupation depuis un certain temps sur les réseaux sociaux, lors des élections et dans le secteur public.

Avec les progrès de la technologie utilisant l'intelligence artificielle pour imiter les voix et les images de manière plus réaliste que jamais, les fraudeurs ciblent désormais également les entreprises avec des deepfakes. « Il y a toujours eu des appels frauduleux. Mais la capacité de ces modèles [IA] à imiter les schémas vocaux réels d'une personne de sorte à pouvoir donner des instructions par téléphone pour faire quelque chose – ce type de risque est complètement nouveau », explique Bill Cassidy, Directeur de l'information chez New York Life.

Les banques et les prestataires de services financiers font partie des premières cibles des escrocs. Kyle Kappel, responsable américain de la cybersécurité chez KPMG, souligne que ce domaine évolue très rapidement. Un exemple de cette évolution rapide est la présentation récente par OpenAI d'une technologie capable de reproduire une voix humaine à partir d'un extrait de 15 secondes. OpenAI a indiqué qu'elle ne rendrait pas la technologie publiquement disponible tant que davantage d'informations sur les risques potentiels d'abus ne seront pas connues.

La préoccupation est que les fraudeurs pourraient utiliser des fichiers audio générés par IA pour tromper les logiciels d'authentification vocale utilisés par les prestataires de services financiers pour vérifier les clients, afin d'obtenir l'accès à leurs comptes. La Chase Bank a récemment été dupée par une voix générée par IA. Toutefois, la banque a précisé que les clients doivent fournir des informations supplémentaires pour les transactions et autres demandes financières.

Les incidents de deepfake dans le secteur FinTech ont augmenté de 700% en 2023 par rapport à l'année précédente, selon un rapport récent de la plateforme de vérification d'identité Sumsub. Les entreprises s'efforcent de mettre en place des mesures de sécurité supplémentaires pour se préparer à la vague d'attaques alimentée par l'IA générative.

Cassidy collabore, par exemple, avec le groupe de capital-risque de New York Life pour identifier les startups et les nouvelles technologies conçues pour lutter contre les deepfakes. Alex Carriles, directeur numérique de la Simmons Bank, modifie certains protocoles de vérification d'identité. Auparavant, cela nécessitait que les clients téléchargent des photos de leurs permis de conduire. Toutefois, les images des permis de conduire pouvant désormais être facilement générées par IA, la banque travaille avec le fournisseur de sécurité IDScan.net pour améliorer le processus. Au lieu de télécharger une image existante, les clients doivent maintenant prendre en photo leurs permis de conduire via l'application de la banque et prendre des selfies.

Toutes les banques ne voient pas un danger immédiat. Amy Brady, directrice informatique de KeyBank, dit que sa banque a pris du retard technologique dans l'adoption du logiciel d'authentification vocale. Compte tenu du risque posé par les deepfakes, elle considère cela, avec le recul, comme un coup de chance. Brady affirme qu'elle a suspendu le déploiement du logiciel d'authentification vocale jusqu'à ce qu'il existe de meilleurs outils pour détecter les imitations. « Parfois, il est payant d'être à la traîne », a-t-elle dit.