Poduzeća koja koriste fotografije ili audio zapise za provjeru identiteta svojih klijenata pripremaju se za rizik od prevara stvorenih pomoću generativne AI. Deepfakeovi, odnosno vješto stvorene lažne slike ili videi koji izgledaju uvjerljivo stvarno, već neko vrijeme predstavljaju problem na društvenim mrežama, tijekom izbora i u javnom sektoru.
Ipak, s napretkom tehnologije koja koristi umjetnu inteligenciju za stvaranje glasova i slika realnijih nego ikad, prevaranti koji se koriste deepfake tehnologijom sada ciljaju i na poduzeća. "Oduvijek su postojali prijevarni pozivi. Ali sposobnost ovih [AI] modela da oponašaju stvarne obrasce govora osobe tako da mogu davati upute nekome tko je na telefonu – taj tip rizika je potpuno nov", kaže Bill Cassidy, glavni informatički direktor u New York Life.
Banke i financijske usluge među prvim su ciljevima prevaranata. Kyle Kappel, američki šef za cyber sigurnost u KPMG, ističe da se to područje vrlo brzo razvija. Jedan primjer brzog razvoja jest nedavna predstavljena tehnologija od strane OpenAI koja može replicirati ljudski glas iz 15-sekundnog isječka. OpenAI je naveo da neće učiniti tehnologiju javno dostupnom dok se više ne sazna o potencijalnim rizicima zlouporabe.
Zabrinutost je da bi prevaranti mogli iskoristiti audiozapise generirane umjetnom inteligencijom kako bi zavarali softver za autentifikaciju glasom, koji financijske usluge koriste za verifikaciju kupaca, te tako dobili pristup njihovim računima. Chase banka je nedavno bila prevarena glasom generiranim umjetnom inteligencijom. Međutim, banka je objasnila da klijenti za transakcije i druge financijske zahtjeve moraju pružiti dodatne informacije.
Incidenti s dubokim lažiranjem (Deepfake incidenti) u FinTech sektoru porasli su za 700% u 2023. u usporedbi s prethodnom godinom, navodi najnovije izvješće platforme za provjeru identiteta Sumsub. Tvrtke rade na implementaciji dodatnih sigurnosnih mjera kako bi se pripremile za val napada potaknutih generativnom AI.
Cassidy surađuje s grupom za rizični kapital New York Life kako bi identificirala startupe i nove tehnologije namijenjene borbi protiv deepfakeova. Alex Carriles, glavni digitalni direktor Simmons banke, mijenja neke protokole za provjeru identiteta. Ranije je to uključivalo uploadanje fotografija njihovih vozačkih dozvola. Međutim, sada kada se slike vozačkih dozvola lako mogu generirati pomoću AI, banka surađuje s pružateljem sigurnosnih usluga IDScan.net kako bi poboljšala postupak. Umjesto učitavanja postojeće slike, klijenti sada moraju fotografirati svoje vozačke dozvole putem aplikacije banke i snimati selfije.
Ne sve banke vide neposrednu opasnost. Amy Brady, CIO KeyBanka, kaže da je njena banka tehnološki zaostajala u uvođenju softvera za autentifikaciju glasom. S obzirom na rizik od deepfake tehnologija, ona to sada smatra srećom u nesreći. Brady je navela da odgađa uvođenje softvera za autentifikaciju glasom dok ne postoje bolji alati za otkrivanje imitacija. "Ponekad se isplati biti zakašnjeli," rekla je.
