Virksomheder, der anvender fotos eller lyd til at verificere deres kunders identitet, forbereder sig på risikoen for bedrag skabt ved hjælp af generativ AI. Deepfakes, dvs. bedragerisk ægte udseende kunstigt skabte billeder eller videoer, har allerede i noget tid været et emne i de sociale medier, ved valg og i den offentlige sektor.

Men med fremskridtet inden for teknologi, der anvender kunstig intelligens til at efterligne stemmer og billeder mere realistisk end nogensinde, retter svindlere nu også med deepfakes deres fokus mod virksomheder. "Der har altid været svindelopkald. Men evnen hos disse [AI-]modeller til at efterligne en persons faktiske stemmemønstre, så de kan give nogen instrukser over telefonen om at gøre noget – den slags risici er helt nye," siger Bill Cassidy, Chief Information Officer hos New York Life.

Banker og finansielle tjenesteydere er blandt de første mål for svindlere. Kyle Kappel, amerikansk leder for cyber ved KPMG, understreger, at dette område udvikler sig meget hurtigt. Et eksempel på den hurtige udvikling er den nylige præsentation af en teknologi af OpenAI, som kan efterligne en menneskelig stemme ud fra et 15-sekunders klip. OpenAI oplyste, at de ikke vil gøre teknologien offentligt tilgængelig, før der er mere viden om potentielle risici for misbrug.

Bekymringen er, at svindlere kunne bruge AI-genererede lydfiler til at narre talegodkendelsessoftware, som anvendes af finansudbydere til verificering af kunder, og dermed få adgang til deres konti. Chase Bank blev for nylig snydt af en AI-genereret stemme. Banken forklarede dog, at kunderne skal give yderligere informationer for transaktioner og andre finansielle forespørgsler.

Deepfake-hændelser i FinTech-sektoren steg med 700% i 2023 sammenlignet med året før, ifølge en ny rapport fra identitetsverifikationsplatformen Sumsub. Virksomheder arbejder på at implementere yderligere sikkerhedsforanstaltninger for at forberede sig på bølgen af angreb drevet af generativ AI.

Cassidy samarbejder for eksempel med venturekapitalgruppen hos New York Life for at identificere startups og nye teknologier designet til at bekæmpe deepfakes. Alex Carriles, Chief Digital Officer hos Simmons Bank, ændrer nogle af identitetsbekræftelsesprotokollerne. Tidligere inkluderede dette, at kunderne uploadede fotos af deres kørekort. Men nu, da billeder af kørekort let kan genereres med AI, samarbejder banken med sikkerhedsleverandøren IDScan.net for at forbedre processen. I stedet for at uploade et eksisterende billede, skal kunderne nu tage billeder af deres kørekort via bankens app og tage selfies.

Ikke alle banker ser en umiddelbar fare. Amy Brady, CIO for KeyBank, siger, at hendes bank har halset bagefter teknologisk med hensyn til implementeringen af stemmeautentificeringssoftware. I betragtning af risikoen fra deepfakes ser hun dette i bakspejlet som en heldig omstændighed. Brady oplyser, at hun sætter implementeringen af stemmeautentificeringssoftware på pause, indtil der findes bedre værktøjer til at afsløre efterligninger. "Nogle gange betaler det sig at være bagud", sagde hun.