Podniky, které používají fotografie nebo audio k ověření identity svých zákazníků, se připravují na riziko podvodů vytvořených pomocí generativní AI. Deepfakes, tedy klamavě pravdivě vypadající uměle vytvořené obrázky či videa, jsou už nějakou dobu tématem ve sociálních médiích, při volbách a ve veřejném sektoru.
S pokrokem technologie využívající umělou inteligenci k dosud nejrealističtějšímu napodobování hlasů a obrazů se podvodníci pomocí deepfake nyní zaměřují i na podniky. „Vždycky byly podvodné hovory. Ale schopnost těchto [AI] modelů napodobit skutečné hlasové vzorce člověka tak, že mohou někomu po telefonu dávat instrukce, co dělat – takový typ rizik je úplně nový," říká Bill Cassidy, Chief Information Officer společnosti New York Life.
Banky a poskytovatelé finančních služeb patří mezi první cíle podvodníků. Kyle Kappel, vedoucí kybernetiky v KPMG USA, zdůrazňuje, že se toto pole vyvíjí velmi rychle. Příkladem rychlého vývoje je nedávné představení technologie OpenAI, která dokáže napodobit lidský hlas z patnáctisekundového klipu. OpenAI uvedlo, že tuto technologii neudělá veřejně dostupnou, dokud nebude více známo o potenciálních rizicích zneužití.
Obava spočívá v tom, že podvodníci by mohli využít pomocí AI generované zvukové soubory k oklamání softwaru pro hlasovou autentizaci, který finanční služby používají pro ověřování klientů, a získat tak přístup k jejich účtům. Chase Bank byla nedávno oklamána hlasem generovaným AI. Banka ale uvedla, že pro transakce a další finanční požadavky musí zákazníci předložit dodatečné informace.
Počet incidentů s deepfake v sektoru FinTech v roce 2023 oproti předchozímu roku vzrostl o 700 %, uvádí aktuální zpráva platformy pro ověřování identity Sumsub. Firmy pracují na implementaci dalších bezpečnostních opatření, aby se připravily na vlnu útoků, které pohání generativní umělá inteligence.
Cassidy spolupracuje například s venture kapitálovou skupinou New York Life na identifikaci startupů a nových technologií určených k boji proti deepfakeům. Alex Carriles, ředitel digitálních služeb banky Simmons, mění některá protokola pro ověření identity. Dříve to zahrnovalo nahrávání fotografií řidičských průkazů zákazníky. Jelikož však nyní mohou být snímky řidičských průkazů snadno generovány umělou inteligencí, banka spolupracuje s poskytovatelem bezpečnosti IDScan.net na vylepšení procesu. Zákazníci musí nyní místo nahrávání stávajícího obrazu fotografovat své řidičské průkazy pomocí aplikace banky a pořídit selfie.
Ne všechny banky vidí bezprostřední nebezpečí. Amy Brady, CIO banky KeyBank, říká, že její banka technologicky pokulhávala za ostatními při zavádění softwaru pro hlasovou autentizaci. Vzhledem k riziku spojenému s deepfake technologiemi nyní považuje toto zpoždění za šťastnou náhodu. Bradyová uvádí, že zastavila zavádění softwaru pro hlasovou autentizaci, dokud nebudou k dispozici lepší nástroje pro odhalení padělků. „Někdy se vyplatí být pozadu,“ řekla.
