Dùng deepfake giả mạo Thái tử Dubai để lừa tình

VHO - Chỉ vì tin vào cuộc gọi video được tạo bởi trí tuệ nhân tạo, nữ lao công người Philippines đã suýt mất sạch tiền tiết kiệm khi nghĩ mình đang được Thái tử Dubai theo đuổi.

Maria (tên nhân vật đã được giấu) đã quen biết kẻ lừa đảo trên một trang web hẹn hò. Sau đó, hai bên chuyển sang trò chuyện trên nền tảng nhắn tin, nơi đối tượng thường xuyên gửi những lời tỏ tình ngọt ngào, khiến Maria cảm thấy như bị "bùa chú tình yêu" bủa vây.

Điểm đặc biệt khiến nạn nhân tin tưởng là kẻ gian đã sử dụng công nghệ deepfake để thực hiện các cuộc gọi video giả mạo. 

Theo xác minh của phóng viên AFP, hình ảnh trong cuộc gọi giống hệt Thái tử Dubai Hamdan bin Mohammed, chuyển động môi khớp hoàn hảo với lời nói, mặc dù giọng nói có dấu hiệu không phải của người thật. Mải mê trong "mối tình ảo", Maria không hề nghi ngờ và đã chấp nhận yêu cầu chuyển 100.000 peso (tương đương 1.625USD) cho đối tượng với lý do để xin "chứng nhận kết hôn, thẻ thành viên hoàng gia" và hỗ trợ tìm việc làm tại Dubai.

Những nghi ngờ đầu tiên xuất hiện khi kẻ lừa đảo đề xuất gặp mặt tại một khách sạn và yêu cầu Maria chi trả thêm 60.000 peso (khoảng 974USD) để đặt phòng. Quyết định kiểm tra tài khoản mạng xã hội của đối phương, cô phát hiện tài khoản Facebook được đăng ký và hoạt động tại Nigeria, không hề liên quan đến khu vực Trung Đông.

Ngay lập tức, nữ lao công cắt đứt mọi liên lạc và nhắn lại: "Xuống địa ngục đi, đồ lừa đảo". Đây chỉ là một phần của hệ sinh thái lừa tình được mô tả là "Thái tử Dubai giả mạo", trong đó các đối tượng lợi dụng kho hình ảnh đồ sộ của vị hoàng tử nổi tiếng trên mạng, thậm chí sao chép cả thơ văn của ông để tạo độ tin cậy. 

Dù một số cá nhân đã lên tiếng cảnh báo, nhiều người vẫn bị cuốn vào những lời đường mật và gửi trái tim, hôn gió dưới các bài đăng. Trước tình trạng này, các nhóm cảnh báo như "Đừng tin Thái tử giả mạo" trên Instagram đã ra đời, kèm theo một bản kiến nghị trên Change.org kêu gọi đội ngũ của Thái tử Dubai nâng cao nhận thức cộng đồng, đặc biệt lưu ý thủ đoạn dùng số điện thoại Dubai và yêu cầu nạn nhân chuyển tiền vào ngân hàng nước ngoài hoặc tiền số, gây khó khăn cho công tác truy vết. Giới chức Dubai hiện chưa đưa ra bình luận chính thức về vụ việc.

Thái tử Dubai không phải là nạn nhân duy nhất bị lợi dụng hình ảnh. Năm ngoái, chính quyền Pháp đã mở cuộc điều tra về kẻ mạo danh tài tử Brad Pitt, chiếm đoạt 830.000 euro (945.000USD) từ một nạn nhân. Theo ước tính của Liên minh Chống lừa đảo Toàn cầu (GASA), tổ chức đang hợp tác với Microsoft và OpenAI, người dân thế giới đã mất khoảng 442 tỉ USD vào năm ngoái vì các hình thức lừa đảo, trong đó lừa tình chiếm tỉ trọng đáng kể.

Chuyên gia David Rand, nhà nghiên cứu tại Đại học Cornell (bang New York, Mỹ), cảnh báo: "Khi công nghệ tiếp tục cải tiến, video deepfake ngày càng khó phân biệt, gần như không thể xác định liệu cuộc trò chuyện qua mạng là với người thật hay giả". Điều này đặt ra yêu cầu cấp thiết về việc nâng cao kỹ năng nhận diện và cảnh giác cho mỗi người dùng trước những "mối tình đến từ thiên đường" trên không gian mạng.