Facebook có thể phát hiện nguồn gốc deepfake

Du Lam, Theo ICTNews 09:44 18/06/2021

Các nhà nghiên cứu AI của Facebook và Đại học bang Michigan (Mỹ) vừa phát triển phần mềm mới, cho phép truy xuất nguồn gốc deepfake.

Deepfake là các video được chỉnh sửa bằng trí tuệ nhân tạo (AI). Chúng ngày càng trở nên hoàn thiện hơn trong vài năm gần đây, khiến người xem khó xác định được đây là video thật hay giả.

Dù vậy, các nhà nghiên cứu Facebook khẳng định phần mềm AI mới của họ có thể được đào tạo để biết được một video là deepfake hay không chỉ từ hình ảnh hay khung hình cắt ra từ video. Không chỉ có vậy, nó còn xác định được loại AI dùng để tạo ra deepfake, dù kỹ thuật này khó tới đâu.

Năm ngoái, Đại học bang Michigan (MSU) phát hiện họ có thể xác định được loại camera được sử dụng để chụp tấm ảnh nào đó. Tal Hassner, người đứng đầu về nghiên cứu ứng dụng tại Facebook, chia sẻ đã hợp tác với MSU cho phần mềm mới.

Facebook có thể phát hiện nguồn gốc deepfake - Ảnh 1.

“Mèo vờn chuột”

Deepfake không phải điều tốt lành gì với Facebook khi mạng xã hội này liên tục tìm cách xóa bỏ nội dung giả mạo ra khỏi nền tảng. Công ty cấm deepfake vào tháng 1/2020 nhưng không thể loại bỏ hoàn toàn.

Theo ông Hassner, phát hiện deepfake giống như trò chơi mèo vờn chuột, khi deepfake ngày càng dễ sản xuất nhưng lại khó xác định. Một trong các ứng dụng chính của deepfake hiện nay là trong công nghiệp khiêu dâm, nơi gương mặt một người bị ghép vào cơ thể người khác. Các ngôi sao cũng khốn khổ với deepfake vì họ thường xuất hiện trong những video giả mạo. Chẳng hạn, nhiều video của diễn viên Tom Cruise trên TikTok thu hút hơn 50 triệu lượt xem và khán giả không biết được họ đang xem video thật hay giả.

Bất kỳ ai cũng có thể tạo video deepfake thông qua các ứng dụng miễn phí như FakeApp, Faceswap. Chuyên gia deepfake Nina Schick khẳng định không dễ phát hiện deepfake. Bà cho rằng dù công trình của Facebook và MSU là bước tiến lớn, điều quan trọng là các mô hình phát hiện deepfake hoạt động thế nào trong thực tế. Một trong các thách thức lớn hiện tại là có nhiều cách đánh lừa mô hình phát hiện deepfake. Ông Hassner cũng thừa nhận rất có thể thế lực xấu sẽ qua mặt được phần mềm.

Nhìn chung, deepfake có hai loại: một loại hoàn toàn do AI tạo ra, một loại sử dụng các nguyên tố của AI để “bóp méo” nội dung đa phương tiện gốc. Bà Schick đặt câu hỏi liệu công cụ của Facebook có áp dụng cho loại thứ hai được không, do không bao giờ có một mô hình nào áp dụng được cho mọi tình huống. Tuy nhiên, Xiaoming Liu của MSU cho biết phần mềm đã được đánh giá và xác nhận trên cả hai trường hợp deepfake.

Chris Ume, nghệ sĩ đứng sau video deepfake Tom Cruise, chia sẻ công nghệ deepfake đang phát triển nhanh chóng. Có nhiều công cụ AI khác nhau và anh sử dụng kết hợp để đạt chất lượng mong muốn cho kênh TikTok của mình.

Không rõ Facebook sẽ áp dụng phần mềm phát hiện deepfake trên nền tảng như thế nào. Ông Hassner cho hay, công ty chưa thảo luận về sản phẩm. Để phục vụ cho công trình nghiên cứu, Facebook đã thu thập và phân loại 100 mô hình deepfake khác nhau.

Theo: CNBC

Bình luận

Tin nổi bật kenh 14

  • No Tech Bro #1: Người mù công nghệ và iPhone 12+1 (ft. Tân Một Cú)

    Những ngày gần đây, sự kiện Apple ra mắt iPhone 13 đang là vấn đề được cộng đồng mạng quan tâm nhiều nhất. Cũng vì vậy mà trong show No Tech Bro đầu tiên, Minh Vẹo đại diện cho "Hội những người lowtech" đã mời tới "Thiếu gia làng YouTube - Tân Một Cú" để giải nghĩa một cách dễ hiểu hơn về những đổi mới trên iPhone 13.
  • Đọc thêm