Empresas que utilizan fotos o audio para verificar la identidad de sus clientes se preparan ante el riesgo de engaños creados con IA generativa. Los deepfakes, o imágenes y videos artificiales que parecen muy reales, ya son un tema de preocupación desde hace tiempo en las redes sociales, elecciones y el sector público.

Sin embargo, con el avance de la tecnología que utiliza inteligencia artificial para imitar voces e imágenes de manera más realista que nunca, los estafadores con deepfakes ahora también se enfocan en las empresas. "Siempre ha habido llamadas fraudulentas. Pero la capacidad de estos modelos [de IA] para imitar los patrones de voz reales de una persona de tal manera que puedan dar instrucciones por teléfono para hacer algo – ese tipo de riesgos es completamente nuevo", dice Bill Cassidy, Director de Información en New York Life.

Los bancos y proveedores de servicios financieros están entre los primeros objetivos de los estafadores. Kyle Kappel, director de Ciberseguridad en EE. UU. de KPMG, subraya que este campo evoluciona muy rápidamente. Un ejemplo de su rápido desarrollo es la presentación reciente de una tecnología por OpenAI capaz de imitar una voz humana a partir de un clip de 15 segundos. OpenAI indicó que no hará pública la tecnología hasta que se conozca más sobre los posibles riesgos de abuso.

La preocupación es que los estafadores podrían usar archivos de audio generados por IA para engañar el software de autenticación de voz utilizado por proveedores de servicios financieros en la verificación de clientes, obteniendo así acceso a sus cuentas. Chase Bank fue engañado recientemente por una voz generada por IA. Sin embargo, el banco explicó que los clientes deben proporcionar información adicional para transacciones y otras solicitudes financieras.

Incidencias de deepfake en el sector FinTech aumentaron un 700% en 2023 en comparación con el año anterior, según un informe reciente de la plataforma de verificación de identidad Sumsub. Las empresas están trabajando para implementar medidas de seguridad adicionales para prepararse ante la ola de ataques impulsados por la IA generativa.

Cassidy colabora, por ejemplo, con el grupo de capital de riesgo de New York Life para identificar startups y nuevas tecnologías diseñadas para combatir los deepfakes. Alex Carriles, Director Digital de Simmons Bank, modifica algunos protocolos de verificación de identidad. Anteriormente, esto incluía que los clientes subieran fotos de sus licencias de conducir. Sin embargo, ahora que las imágenes de licencias de conducir pueden generarse fácilmente con IA, el banco está trabajando con el proveedor de seguridad IDScan.net para mejorar el proceso. En lugar de subir una imagen existente, los clientes ahora deben fotografiar sus licencias de conducir a través de la aplicación del banco y tomar selfies.

No todos los bancos ven un peligro inmediato. Amy Brady, directora de informática de KeyBank, dice que su banco ha quedado rezagado tecnológicamente en la implementación de software de autenticación por voz. Considerando el riesgo que representan los deepfakes, ella ve esto en retrospectiva como un golpe de suerte. Brady indica que pospondrá la implementación de software de autenticación por voz hasta que haya mejores herramientas para detectar imitaciones. "A veces, ser un rezagado tiene sus ventajas", dijo.