Kẻ Gian Sử Dụng Giọng Nói Giả Do AI Tạo Ra Để Lừa Đảo 243,000 USD

Tháng 03/2019, nước Anh chứng kiến một vụ lừa đảo nghiêm trọng: CEO của một công ty năng lượng lớn tưởng rằng mình đang làm theo lệnh của cấp trên, chuyển hàng ngàn bảng Anh cho một bên thứ ba khác. Hóa ra giọng nói ra lệnh xuất phát từ một cỗ máy, một hệ thống trí tuệ nhân tạo giả giọng nói do kẻ lừa đảo tạo ra.

Theo báo cáo từ Wall Street Journal, giám đốc chi nhánh đã tưởng mình nhận cuộc gọi từ chủ tịch của công ty mẹ đặt tại Đức. Giọng nói Đức đã yêu cầu chuyển 220,000 bảng Anh (khoảng 243,000 USD) cho một đầu mối hàng hóa tại Hungary. Euler Hermes Group SA, đơn vị bảo hiểm cho công ty bị hại cung cấp thông tin vụ việc nhưng từ chối chỉ đích danh ai đã mắc lừa.

Chuyên gia phát hiện lừa đảo Rüdiger Kirsch nói với trang Wall Street Journal rằng nạn nhân tưởng người gọi chính là người chủ của mình do người ở đầu dây bên kia có giọng Đức và có những “âm điệu” rất giống với CEO của công ty mẹ. Đây là lần đầu tiên Euler Hermes phải đối mặt với một vụ lừa đảo sử dụng công nghệ cao theo hình thức giả giọng nói.

Nạn nhân nhận được tổng cộng 3 cuộc gọi. Khi giao dịch diễn ra sau cuộc gọi đầu tiên, nạn nhân nhận thêm một cuộc gọi nữa để báo tin (sai sự thật) rằng tiền đã bị hoàn trả. Rồi tên hacker gọi cuộc điện thoại thứ ba, yêu cầu chuyển đi một khoản tiền nữa. Giọng nói vẫn vậy, nhưng khi nhận thấy số điện thoại có nguồn gốc từ Áo, rồi kiểm tra thấy không có thông báo hoàn tiền nào, nạn nhân đã nghi ngờ và không thực hiện yêu cầu chuyển tiền lần hai.

Những tháng qua, công nghệ giả giọng nói đã hoàn thiện hơn trước nhiều. Một số ví dụ gần đây khiến người ta không khỏi hoài nghi tương lai của Internet sẽ ra sao; công ty nghiên cứu AI Dessa mới công bố giọng giả của Joe Rogan, một nghệ sĩ hài độc thoại và một người làm podcast nổi tiếng trên YouTube, nghe giống Joe Rogan thật một cách đáng kinh ngạc. Ngay cả những người thường xuyên xem chương trình của Joe Rogan cũng khó lòng phân biệt đâu là phiên bản thật.

Về phía doanh nghiệp bị lừa tiền. Họ lần dấu được tiền tới một tài khoản Hungary, rồi phát hiện ra nó đã được chuyển tới Mexico rồi chia tới một loạt các ngân hàng nhỏ khác nằm rải rác khắp nơi. Hiện chưa xác nhận được ai là kẻ đứng sau màn lừa đảo công nghệ cao.

Dessa cũng đưa ra lời cảnh báo: “Một vài năm tiếp theo hay thậm chí có thể sớm hơn, chúng ta sẽ thấy công nghệ tiên tiến tới mức sẽ cần vài giây giọng nói để tái dựng một giọng giả y như thật của bất kỳ ai trên thế giới”. Có thể thấy, công nghệ, hay cụ thể là khả năng của trí tuệ nhân tạo, quả là con dao hai lưỡi.