Yritykset, jotka käyttävät kuvia tai ääntä asiakkaidensa identiteetin vahvistamiseen, valmistautuvat generatiivisen tekoälyn luomien petosten uhkaan. Deepfakeiksi kutsutut, petollisen aitoina vaikuttavat keinotekoisesti tuotetut kuvat tai videot, ovat olleet jo jonkin aikaa puheenaiheena sosiaalisessa mediassa, vaaleissa ja julkisella sektorilla.
Teknologian edistyessä, joka käyttää tekoälyä imitoimaan ääniä ja kuvia realistisemmin kuin koskaan, petosrikolliset tähtäävät deepfakejen avulla nyt myös yrityksiin. "Aina on ollut huijauspuheluita. Mutta näiden [tekoäly-]mallien kyky matkia henkilön todellisia äänimalleja niin, että ne voivat antaa ohjeita jollekin puhelimen toisessa päässä – se, että pitää tehdä jotakin – tämän tyyppiset riskit ovat aivan uusia", sanoo Bill Cassidy, Chief Information Officer New York Lifessa.
Pankit ja rahoituspalveluntarjoajat ovat huijareiden ensimmäisiä kohteita. KPMG:n Yhdysvaltain kyberpäällikkö Kyle Kappel korostaa, että tämä ala kehittyy erittäin nopeasti. Esimerkkinä nopeasta kehityksestä on OpenAIn äskettäin esittelemä teknologia, joka voi jäljitellä ihmisen ääntä 15 sekunnin klipistä. OpenAI ilmoitti, etteivät he tee teknologiaa julkisesti saataville, ennen kuin tiedetään enemmän potentiaalisista väärinkäytön riskeistä.
Huolenaiheena on, että huijarit voisivat käyttää tekoälyllä tuotettuja äänitiedostoja huijatakseen pankkien käyttämää äänitunnistusohjelmistoa asiakasvarmennuksessa ja päästäkseen siten käsiksi asiakkaiden tileihin. Chase Bank joutui äskettäin tekoälyllä luodun äänen huijaamaksi. Pankki on kuitenkin ilmoittanut, että asiakkaiden on annettava lisätietoja transaktioita ja muita taloudellisia pyyntöjä varten.
Syväväärennöstapaukset FinTech-sektorilla nousivat vuonna 2023 edellisvuoteen verrattuna 700 %, toteaa identiteetinvarmennusalusta Sumsubin tuore raportti. Yritykset pyrkivät ottamaan käyttöön lisäsuojatoimenpiteitä varautuakseen aaltoon hyökkäyksiä, jotka ovat generatiivisen tekoälyn vauhdittamia.
Cassidy työskentelee esimerkiksi yhteistyössä New York Lifen venturekapitaaliryhmän kanssa tunnistaakseen startup-yrityksiä ja uusia teknologioita, jotka on suunniteltu taistelemaan deepfakeja vastaan. Alex Carriles, Simmons Bankin digitaalisten palveluiden johtaja, muuttaa joitakin identiteetin varmennusprotokollia. Aiemmin tähän sisältyi asiakkaiden ajokorttikuvien lataaminen. Koska kuvia ajokorteista voidaan nyt kuitenkin helposti generoida tekoälyn avulla, pankki työskentelee yhdessä turvallisuuspalveluntarjoaja IDScan.netin kanssa parantaakseen prosessia. Nyt asiakkaiden täytyy sen sijaan, että lataavat olemassa olevan kuvan, valokuvata ajokorttinsa pankin sovelluksen kautta ja ottaa selfie.
Kaikki pankit eivät näe välitöntä vaaraa. KeyBankin CIO Amy Brady sanoo, että heidän pankkinsa on jäänyt teknologisesti jälkeen puheentunnistusohjelmiston käyttöönotossa. Syvällisten väärennösten riskin valossa hän pitää tätä jälkikäteen onnenkantamoisena. Brady ilmoittaa lykkäävänsä puheentunnistusohjelmiston käyttöönottoa, kunnes parempia työkaluja väärennösten paljastamiseen on saatavilla. "Joskus kannattaa olla jälkijunassa", hän sanoi.
