"Elon Musk deepfake" trở thành kẻ lừa đảo thành công nhất thời đại: Video giả chỉ tốn 10 USD để sản xuất trong 10 phút, có người nhẹ dạ mất hơn 17 tỷ đồng

Steve Beauchamp, 82 tuổi, đang rất cần tiền chu cấp cho gia đình. Ông nghĩ Elon Musk có thể giúp mình.

Cuối năm ngoái, Beauchamp tình cờ xem được một đoạn video ghi lại cảnh CEO Tesla giới thiệu cơ hội đầu tư hấp dẫn và sinh lời nhanh. Ông vội vàng liên hệ với công ty đăng tải đoạn clip này và mở tài khoản với giá 248 USD.

Sau một vài giao dịch, Beauchamp quyết định rút cạn tài khoản hưu trí để đổ vốn vào phi vụ đầu tư. Tổng số tiền người đàn ông này bỏ ra đã lên đến 690.000 USD (hơn 17 tỷ đồng)

Đến một ngày, toàn bộ số tiền biến mất. Thay vì được đầu tư vào món hời mà “Elon Musk” trước đó giới thiệu, nó rơi thẳng vào tay những tổ chức lừa đảo cao cấp, được tiếp tay bởi trí tuệ nhân tạo.

Theo New York Times, những kẻ lừa đảo đã chỉnh sửa một cuộc phỏng vấn có thật của Musk, sau đó thay thế giọng nói của tỷ phú bằng bản sao AI. Công nghệ nhân bản tinh vi đến mức đủ để thay đổi từng cử động miệng theo phút để khớp với nội dung văn bản. Với một người xem bình thường, họ khó lòng nhận ra chiêu trò.

“Với tôi, video đó chính là ông ấy. Tôi không biết chính AI mới là thứ bắt ông ấy nói vậy”, Beauchamp nói về đoạn video mình đã xem về Musk.

Được gọi là deepfake, hàng nghìn video do AI tạo ra đã tràn ngập Internet trong những tháng gần đây. Rất nhiều nạn nhân ngây thơ đã sập bẫy, trong đó có ông Beauchamp.

Theo ước tính từ Deloitte, các sản phẩm deepfake của AI sẽ tiếp tay gây ra hàng tỷ USD lừa đảo mỗi năm. Các video này chỉ tốn vài USD để sản xuất, sau đó được quảng cáo trên mạng xã hội để mở rộng phạm vi tiếp cận. Các video chân thật một cách kỳ lạ.

“Đây có lẽ là vụ lừa đảo bằng deepfake lớn nhất từ trước đến nay”, Francesco Cavalli, đồng sáng lập công ty giám sát và phát hiện Sensity, nhận xét.

Theo Sensity, Elon Musk là phát ngôn viên phổ biến nhất trong các video lừa đảo. Ông xuất hiện trong gần 1/4 số vụ lừa đảo deepfake kể từ cuối năm ngoái. Trong video đầu tư tiền số, vị tỷ phú này góp mặt trong hầu hết các video.

Một người ở Texas cho biết đã mất số Bitcoin trị giá 36.000 USD sau khi nhìn thấy “video mạo danh” Elon Musk phát biểu trên YouTube vào tháng 2/2023, theo báo cáo của Better Business Bureau. “Tôi đã gửi Bitcoin và không nhận lại được gì”, người này viết.

Trên thực tế, các video do AI tạo ra không hoàn hảo. Trong một số video, CEO Tesla có thể phát ra âm thanh như người máy và miệng thì không phải lúc nào cũng khớp với lời. Tuy nhiên, các video này đang được cải tiến liên tục để qua mắt lớp nạn nhân nhẹ dạ cả tin.

Theo Cavalli từ Sensity, những video nói trên chỉ tốn 10 USD để tạo ra. Những kẻ lừa đảo chủ yếu đặt trụ sở ở Ấn Độ, Nga, Trung Quốc và Đông Âu; tạo ra các video giả bằng cách kết hợp các công cụ miễn phí và rẻ tiền trong vòng chưa đầy 10 phút.

“Chúng đang tiếp tục khuếch đại chiến dịch, dịch sang nhiều ngôn ngữ và liên tục truyền bá lừa đảo đến nhiều nạn nhân hơn”, Cavalli nói.

Theo New York Times, nhiều trò lừa đảo bắt đầu bằng quảng cáo phần mềm giả mạo làm từ AI, tuyên bố rằng nhà đầu tư có thể thu lợi khủng nếu đặt niềm tin đúng chỗ. Ban đầu, các nạn nhân chỉ gửi một khoản tiền nhỏ - khoảng 250 USD - sau đó mới dần bị dụ rót tiền nhiều hơn.

Những kẻ lừa đảo thường nhắm mục tiêu vào người dùng Internet lớn tuổi, có chút hiểu biết về tiền số, AI hoặc Elon Musk, song không quen với những phương thức đầu tư an toàn. “Người cao tuổi luôn là nhóm dễ bị lừa”, Finn Brunton, giáo sư tại Đại học California và Davis, một chuyên gia về thị trường tiền điện tử, nhận định.

Theo: The New York Times