Företag som använder bilder eller ljud för att verifiera sina kunders identitet förbereder sig på risker med bedrägerier skapade genom generativ AI. Deepfakes, det vill säga bedrägligt äkta utseende, konstgjort skapade bilder eller videor, har redan under en tid varit i fokus inom sociala medier, val och den offentliga sektorn.
Men med teknikens framsteg, som använder artificiell intelligens för att efterlikna röster och bilder mer realistiskt än någonsin, riktar bedragare med deepfakes nu också in sig på företag. "Det har alltid funnits bedrägliga samtal. Men förmågan hos dessa [AI-]modeller att efterlikna en persons verkliga röst mönster till den grad att de kan ge någon instruktioner över telefon att göra något - den typen av risker är helt nya", säger Bill Cassidy, Chief Information Officer på New York Life.
Banker och finansiella tjänsteleverantörer är bland de första målen för bedragare. Kyle Kappel, USA-chef för Cyber hos KPMG, framhäver att detta område utvecklas mycket snabbt. Ett exempel på den snabba utvecklingen är den nyliga presentationen av en teknologi av OpenAI som kan efterlikna en mänsklig röst från en 15-sekunders klipp. OpenAI har meddelat att de inte kommer att göra teknologin offentligt tillgänglig förrän mer är känt om potentiella missbruk.
Bekymringen är att bedragare kan använda AI-genererade ljudfiler för att lura röstautentiseringsprogramvara som används av finanstjänstleverantörer för att verifiera kunder, och på så sätt få tillgång till deras konton. Chase Bank lurades nyligen av en AI-genererad röst. Banken förklarade emellertid att kunder måste tillhandahålla ytterligare information för transaktioner och andra finansiella förfrågningar.
Deepfake-incidenter inom FinTech-sektorn ökade med 700% under 2023 jämfört med föregående år, enligt en aktuell rapport från identitetsverifieringsplattformen Sumsub. Företag arbetar med att implementera ytterligare säkerhetsåtgärder för att förbereda sig inför vågen av attacker som drivs av generativ AI.
Cassidy samarbetar till exempel med New York Life's venturekapitalgrupp för att identifiera startups och ny teknologi utformade för att bekämpa deepfakes. Alex Carriles, digital chef på Simmons Bank, ändrar vissa protokoll för identitetsverifiering. Tidigare ingick det att kunder laddade upp foton av sina körkort. Men eftersom bilder på körkort nu enkelt kan genereras med AI, samarbetar banken med säkerhetsleverantören IDScan.net för att förbättra processen. Istället för att ladda upp en befintlig bild måste kunder nu fotografera sina körkort via bankens app och ta selfies.
Inte alla banker ser en omedelbar fara. Amy Brady, CIO för KeyBank, säger att deras bank har varit teknologiskt efter när det gäller införandet av röstautentiseringsmjukvara. Med tanke på risken med deepfakes ser hon det i efterhand som en lyckosam händelse. Brady uppger att hon sätter införandet av röstautentiseringsmjukvara på paus tills det finns bättre verktyg för att avslöja imitationer. "Ibland lönar det sig att vara efter", sa hon.
