Przedsiębiorstwa stosujące zdjęcia lub dźwięk do weryfikacji tożsamości klientów przygotowują się na ryzyko związane z oszustwami tworzonymi przez generatywne SI. Deepfake'i, czyli sztucznie wytworzone obrazy lub wideo wyglądające wyjątkowo realistycznie, od jakiegoś czasu stanowią problem w mediach społecznościowych, podczas wyborów i w sektorze publicznym.
Ale wraz z postępem technologii wykorzystującej sztuczną inteligencję do coraz bardziej realistycznego naśladowania głosów i obrazów, oszuści za pomocą deepfake'ów zaczynają celować również w przedsiębiorstwa. „Zawsze były oszukańcze połączenia telefoniczne. Ale zdolność tych [KI-]modeli do naśladowania rzeczywistych wzorców mowy osoby w taki sposób, że może ona przez telefon wydać komuś instrukcje, aby coś zrobił – tego rodzaju ryzyka są całkowicie nowe", mówi Bill Cassidy, dyrektor ds. informatyki w New York Life.
Banki i usługodawcy finansowi należą do pierwszych celów oszustów. Kyle Kappel, szef działu cyberbezpieczeństwa w USA w KPMG, podkreśla, że to pole rozwija się bardzo szybko. Przykładem szybkiego rozwoju jest niedawne przedstawienie przez OpenAI technologii, która może imitować ludzki głos z 15-sekundowego klipu. OpenAI oświadczyło, że nie udostępni technologii publicznie, dopóki więcej nie będzie wiadomo o potencjalnych ryzykach nadużyć.
Obawy dotyczą tego, że oszuści mogą wykorzystywać pliki audio generowane przez SI, aby oszukać oprogramowanie do autentyfikacji głosowej używane przez usługodawców finansowych do weryfikacji klientów, uzyskując w ten sposób dostęp do ich kont. Ostatnio Bank Chase został zwiedziony przez głos wygenerowany przez SI. Jednakże bank wyjaśnił, że klienci muszą dostarczać dodatkowe informacje dla transakcji i innych zapytań finansowych.
Incydenty z użyciem technologii deepfake w sektorze FinTech wzrosły w 2023 roku o 700% w porównaniu z poprzednim rokiem, według aktualnego raportu platformy weryfikacji tożsamości Sumsub. Firmy pracują nad wdrożeniem dodatkowych środków bezpieczeństwa, aby przygotować się na falę ataków napędzanych przez generatywną sztuczną inteligencję.
Cassidy współpracuje na przykład z grupą kapitału podwyższonego ryzyka New York Life, aby identyfikować startupy i nowe technologie przeznaczone do walki z deepfake'ami. Alex Carriles, dyrektor ds. cyfryzacji w Simmons Bank, zmienia niektóre protokoły weryfikacji tożsamości. Wcześniej wymagało to od klientów przesyłania zdjęć ich praw jazdy. Ponieważ obecnie zdjęcia praw jazdy mogą być jednak łatwo wygenerowane przez sztuczną inteligencję, bank współpracuje z dostawcą zabezpieczeń IDScan.net w celu ulepszenia procesu. Zamiast przesyłać istniejący obraz, klienci muszą teraz fotografować swoje prawa jazdy za pomocą aplikacji banku i robić selfie.
Nie wszystkie banki widzą bezpośrednie zagrożenie. Amy Brady, Dyrektor ds. Informatycznych w KeyBank, mówi, że jej bank pozostawał w tyle za technologią przy wprowadzaniu oprogramowania do autoryzacji głosowej. W obliczu ryzyka związanego z deepfake'ami, z perspektywy czasu uważa to za szczęśliwy traf. Brady stwierdza, że wstrzymuje wdrożenie oprogramowania do autoryzacji głosowej, dopóki nie pojawią się lepsze narzędzia do wykrywania imitacji. „Czasem opłaca się być w tyle”, powiedziała.
