Spoločnosti, ktoré používajú fotografie alebo zvuk na overenie totožnosti svojich zákazníkov, sa pripravujú na hrozbu podvodov vytvorených pomocou generatívnej umelej inteligencie. Deepfake, teda klamlivo pravdivo vyzerajúce, umelo vytvorené obrázky alebo videá, sú už nejaký čas diskutovanou témou na sociálnych sieťach, počas volieb a v verejnom sektore.

Ale s pokrokmi technológie využívajúcej umelú inteligenciu, ktorá napodobňuje hlasy a obrazy realisticky ako nikdy predtým, sa podvodníci pomocou deepfake videí teraz zameriavajú aj na podniky. „Vždy existovali podvodné telefonáty. Ale schopnosť týchto [KI-] modelov tak presne napodobniť skutočné hlasové vzory osoby, že môže niekomu cez telefón dávať pokyny, urobiť niečo - to je typ rizík, ktorý je úplne nový,“ hovorí Bill Cassidy, vedúci informačných technológií v spoločnosti New York Life.

Banky a poskytovatelia finančných služieb patria medzi prvé ciele podvodníkov. Kyle Kappel, vedúci pre kybernetickú bezpečnosť v USA pre KPMG, zdôrazňuje, že sa toto pole vyvíja veľmi rýchlo. Príkladom rýchleho vývoja je nedávne predstavenie technológie OpenAI, ktorá dokáže napodobniť ľudský hlas z 15-sekundového klipu. OpenAI uviedla, že nezverejní technológiu, pokiaľ nebude viac známe o potenciálnych rizikách zneužitia.

Obava spočíva v tom, že podvodníci by mohli použiť audiosúbory generované umelou inteligenciou na oklamanie softvéru pre hlasovú autentifikáciu používaného finančnými službami pri overovaní klientov, a tak získať prístup k ich účtom. Banku Chase nedávno oklamal hlas generovaný umelou inteligenciou. Banka však uviedla, že zákazníci musia pre transakcie a iné finančné požiadavky poskytnúť dodatočné informácie.

Deepfake incidenty v sektore FinTech vzrástli v roku 2023 oproti predchádzajúcemu roku o 700%, uvádza aktuálna správa platformy pre overovanie totožnosti Sumsub. Spoločnosti pracujú na implementácii dodatočných bezpečnostných opatrení na prípravu proti vlne útokov poháňanej generatívnou AI.

Cassidy napríklad spolupracuje s venture kapitálovou skupinou spoločnosti New York Life, aby identifikovala startupy a nové technológie zamerané na boj proti deepfakes. Alex Carriles, hlavný digitálny riaditeľ banky Simmons Bank, mení niektoré protokoly overovania identity. V minulosti to zahŕňalo nahrávanie fotografií vodičských preukazov zákazníkmi. Keďže teraz môžu byť obrázky vodičských preukazov ľahko generované umelou inteligenciou, banka spolupracuje so spoločnosťou poskytujúcou bezpečnostné služby IDScan.net na zlepšenie procesu. Namiesto nahrávania existujúceho obrázku musia zákazníci teraz fotografovať svoje vodičské preukazy cez aplikáciu banky a robiť selfie.

Nie všetky banky vidia bezprostredné nebezpečenstvo. Amy Brady, CIO KeyBank, hovorí, že ich banka technologicky zaostávala pri zavádzaní softvéru na hlasovú autentifikáciu. Vzhľadom na riziko spojené s deepfakes považuje toto z pohľadu spätne za šťastnú náhodu. Brady uvádza, že zastavuje zavádzanie softvéru na hlasovú autentifikáciu, až kým nebudú k dispozícii lepšie nástroje na odhaľovanie napodobenín. „Niekedy sa vypláca byť pozadu,“ povedala.