Bedrijven die foto's of audio gebruiken voor de verificatie van de identiteit van hun klanten maken zich op voor het gevaar van door generatieve AI gecreëerde bedrog. Deepfakes, dat zijn bedrieglijk echte, kunstmatig gegenereerde afbeeldingen of video's, zijn al enige tijd een onderwerp in sociale media, tijdens verkiezingen en in de publieke sector.
Toch, met de vooruitgang van technologie die kunstmatige intelligentie gebruikt om stemmen en beelden realistischer dan ooit na te bootsen, richten fraudeurs zich met deepfakes nu ook op bedrijven. "Er zijn altijd frauduleuze telefoontjes geweest. Maar het vermogen van deze [KI-]modellen om de daadwerkelijke stempatronen van een persoon na te bootsen, zodat ze iemand via de telefoon instructies kunnen geven iets te doen - dat soort risico's is totaal nieuw", zegt Bill Cassidy, Chief Information Officer bij New York Life.
Banken en financiële dienstverleners behoren tot de eerste doelwitten van fraudeurs. Kyle Kappel, hoofd Cyber van KPMG in de VS, benadrukt dat dit veld zich zeer snel ontwikkelt. Een voorbeeld van de snelle ontwikkeling is de recente presentatie van een technologie door OpenAI die een menselijke stem kan nabootsen uit een clip van 15 seconden. OpenAI heeft aangegeven de technologie niet openbaar te maken totdat er meer bekend is over potentiële misbruikrisico's.
De zorg is dat fraudeurs door KI gegenereerde audiobestanden zouden kunnen gebruiken om spraakverificatiesoftware, die door financiële dienstverleners wordt ingezet voor klantverificatie, te misleiden en zo toegang te krijgen tot hun rekeningen. Onlangs werd Chase Bank misleid door een door KI gegenereerde stem. De bank verklaarde echter dat klanten aanvullende informatie moeten verstrekken voor transacties en andere financiële verzoeken.
Deepfake-incidenten in de FinTech-sector stegen in 2023 met 700% ten opzichte van het voorgaande jaar, volgens een recent rapport van het identiteitsverificatieplatform Sumsub. Bedrijven werken aan de implementatie van extra veiligheidsmaatregelen om zich voor te bereiden op de golf van aanvallen die worden aangedreven door generatieve AI.
Cassidy werkt bijvoorbeeld samen met de venture capital-groep van New York Life om startups en nieuwe technologieën te identificeren die ontworpen zijn om deepfakes te bestrijden. Alex Carriles, Chief Digital Officer van Simmons Bank, wijzigt sommige protocollen voor identiteitsverificatie. Voorheen was dat inclusief dat klanten foto's van hun rijbewijzen uploaden. Omdat afbeeldingen van rijbewijzen nu echter eenvoudig met AI gegenereerd kunnen worden, werkt de bank samen met de beveiligingsprovider IDScan.net om het proces te verbeteren. In plaats van een bestaande afbeelding te uploaden, moeten klanten hun rijbewijzen nu fotograferen via de app van de bank en selfies maken.
Niet alle banken zien een direct gevaar. Amy Brady, CIO van KeyBank, zegt dat haar bank technologisch achterliep bij het invoeren van spraakauthenticatiesoftware. Gezien het risico van deepfakes beschouwt ze dit achteraf als een geluk bij een ongeluk. Brady geeft aan dat ze de invoering van spraakauthenticatiesoftware in de ijskast zet totdat er betere tools zijn om imitaties te ontmaskeren. "Soms loont het om een achterblijver te zijn", zei ze.
