Doanh nghiệp sử dụng ảnh hoặc âm thanh để xác minh danh tính của khách hàng chuẩn bị đối phó với rủi ro từ những trò lừa đảo được tạo ra bằng KI sinh động. Deepfakes, tức là những hình ảnh hoặc video giả mạo nhưng trông cực kỳ thực tế, đã được bàn luận từ lâu trên mạng xã hội, trong các cuộc bầu cử và ngành công cộng.

Tuy nhiên, với sự tiến bộ của công nghệ sử dụng trí tuệ nhân tạo để mô phỏng giọng nói và hình ảnh một cách chân thực như chưa từng có, các kẻ lừa đảo hiện đang sử dụng Deepfake để nhắm vào doanh nghiệp. "Luôn có những cuộc gọi lừa đảo. Nhưng khả năng của các mô hình [KI] này trong việc bắt chước chính xác mô hình giọng nói của một người đến mức có thể ra lệnh cho ai đó qua điện thoại làm điều gì đó - loại rủi ro này hoàn toàn mới", theo lời Bill Cassidy, Giám đốc thông tin của New York Life.

Ngân hàng và các nhà cung cấp dịch vụ tài chính nằm trong số những mục tiêu đầu tiên của kẻ lừa đảo. Kyle Kappel, Giám đốc mảng An ninh mạng tại Mỹ của KPMG, nhấn mạnh rằng lĩnh vực này phát triển rất nhanh. Một ví dụ về sự phát triển nhanh chóng là việc OpenAI gần đây đã giới thiệu một công nghệ có thể mô phỏng giọng nói con người từ một đoạn clip dài 15 giây. OpenAI cho biết sẽ không công bố công nghệ này cho công chúng cho đến khi biết thêm về các rủi ro lạm dụng tiềm ẩn.

Lo ngại rằng kẻ lừa đảo có thể sử dụng các tệp âm thanh sinh bởi AI để đánh lừa phần mềm xác thực giọng nói mà các dịch vụ tài chính sử dụng để xác minh khách hàng, qua đó có thể truy cập vào các tài khoản của họ. Mới đây, ngân hàng Chase đã bị đánh lừa bởi một giọng nói sản xuất bởi AI. Tuy nhiên, ngân hàng này đã giải thích rằng khách hàng cần cung cấp thêm thông tin cho các giao dịch và yêu cầu tài chính khác.

Sự cố Deepfake trong ngành FinTech tăng 700% vào năm 2023 so với năm trước, theo một báo cáo mới từ nền tảng xác minh danh tính Sumsub. Các công ty đang nỗ lực triển khai thêm các biện pháp an ninh để chuẩn bị cho làn sóng tấn công được thúc đẩy bởi trí tuệ nhân tạo sinh học.

Cassidy hợp tác với nhóm vốn cổ phần mạo hiểm của New York Life để xác định các startup và công nghệ mới nhằm chống lại Deepfakes. Alex Carriles, Giám đốc Số hóa của Ngân hàng Simmons, thay đổi một số giao thức xác minh danh tính. Trước đây, điều này bao gồm việc khách hàng tải ảnh chụp giấy phép lái xe của họ lên. Tuy nhiên, vì hiện nay ảnh giấy phép lái xe có thể dễ dàng được tạo ra bằng trí tuệ nhân tạo, ngân hàng đang hợp tác với nhà cung cấp an ninh IDScan.net để cải thiện quy trình. Thay vì tải lên một hình ảnh có sẵn, khách hàng giờ đây cần phải chụp ảnh giấy phép lái xe của họ thông qua ứng dụng của ngân hàng và chụp ảnh selfie.

Không phải tất cả các ngân hàng đều thấy một nguy cơ trực tiếp. Amy Brady, Giám đốc Thông tin (CIO) của KeyBank, nói rằng ngân hàng của cô đã tụt hậu về mặt công nghệ trong việc triển khai phần mềm xác thực bằng giọng nói. Nhận thức được rủi ro từ Deepfakes, cô coi đó như một may mắn không ngờ tới khi nhìn lại. Brady thông báo rằng cô sẽ tạm hoãn việc triển khai phần mềm xác thực bằng giọng nói cho đến khi có những công cụ tốt hơn để phát hiện giả mạo. "Thỉnh thoảng, việc trở thành người đi sau cũng mang lại lợi ích", cô nói.