Ettevõtted, kes kasutavad klientide identiteedi kinnitamiseks fotosid või heli, valmistuvad ette generatiivse tehisintellekti abil loodud pettuste ohuks. Deepfake'id, ehk petlikult ehtsana näivad tehislikult loodud pildid või videod, on juba mõnda aega sotsiaalmeedias, valimistel ja avalikus sektoris teemaks.

Tehnoloogilise edenemisega, mis kasutab tehisintellekti, et jäljendada hääli ja pilte realistlikumalt kui kunagi varem, sihivad petturid deepfake'idega nüüd ka ettevõtteid. "Petturlikke telefone on alati olnud. Kuid [KI-]mudelite võime jäljendada inimese tegelikke häälemustreid nii, et nad saaksid telefonis kellelegi korraldusi anda millegi tegemiseks - sellised riskid on täiesti uued," ütleb Bill Cassidy, New York Life'i peainfojuht.

Pangad ja finantsteenuste pakkujad on petturite esmased sihtmärgid. KPMG USA küberjuht Kyle Kappel rõhutab, et see valdkond areneb väga kiiresti. Üheks kiire arengu näiteks on OpenAI poolt hiljuti tutvustatud tehnoloogia, mis suudab matkida inimhäält 15-sekundilise klipi põhjal. OpenAI teatas, et nad ei tee seda tehnoloogiat avalikult kättesaadavaks enne, kui on rohkem teada potentsiaalsete kuritarvitamisriskide kohta.

Mure seisneb selles, et petturid võivad kasutada tehisintellekti genereeritud helifaile, et eksitada finantsteenuseid pakkuvate ettevõtete kõneautentimise tarkvara klientide tuvastamiseks, saades nii juurdepääsu nende kontodele. Hiljuti peteti Chase panka tehisintellekti genereeritud häälega. Siiski teatas pank, et klientidel tuleb tehingute ja muude finantspäringute jaoks esitada lisainformatsiooni.

Deepfake-intsidentide arv FinTech-sektoris tõusis 2023. aastal võrreldes eelmise aastaga 700%, näitab identiteedi kinnitamise platvormi Sumsubi värske aruanne. Ettevõtted töötavad lisaturvameetmete rakendamisel, et valmistuda generatiivse tehisintellekti poolt ajendatud rünnakute laineks.

Cassidy töötab näiteks koostöös New York Life'i riskikapitali grupiga, et tuvastada idufirmasid ja uusi tehnoloogiaid, mis on suunatud deepfake'ide vastu võitlemisele. Simmons Banki digitaalse innovatsiooni juht Alex Carriles muudab mõningaid identiteedi kinnitamise protokolle. Varem pidi see hõlmama klientide juhilubade piltide üleslaadimist. Kuna nüüd on aga võimalik juhilubasid kergesti KI abil genereerida, töötab pank koostöös turvapakkujaga IDScan.net, et protsessi parandada. Klientidel tuleb nüüd pangarakenduse kaudu oma juhilubadest pilt teha ja selfie'sid teha.

Kõik pangad ei näe otseseid ohte. Amy Brady, KeyBanki infotehnoloogiadirektor, ütleb, et nende pank on olnud kõne autentimistarkvara kasutuselevõtul tehniliselt aeglane. Deepfake'i riskide valguses peab ta tagantjärele seda õnnelikuks juhuseks. Brady teatab, et peatab kõne autentimistarkvara kasutuselevõtu, kuni on olemas paremad vahendid võltsingute avastamiseks. "Vahel tasub end ära olla viimane," ütles ta.