Quảng cáo về mại dâm AI đang tràn ngập Instagram và TikTok

Facebook, Instagram và TikTok đã cố gắng kiểm soát chặt chẽ nội dung khiêu dâm trong những năm gần đây, cấm hoàn toàn ảnh khỏa thân trong hầu hết các trường hợp, thậm chí trấn áp một số nghệ sĩ và nhà giáo dục nói về sức khỏe và an toàn tình dục quá thẳng thắn.

Nhưng một loại nội dung khiêu dâm gần đây đã lọt qua hệ thống kiểm duyệt của các mạng xã hội: Quảng cáo cho các chatbot ăn mặc hở hang và ăn nói tục tĩu, được hỗ trợ bởi thứ mà người tạo ra chúng nói là trí tuệ nhân tạo (AI).

Hàng chục công ty khởi nghiệp công nghệ đã chạy quảng cáo rõ ràng trên TikTok, Instagram và Facebook trong những tháng gần đây về các ứng dụng quảng bá trải nghiệm không an toàn cho công việc.

Các quảng cáo hứa hẹn "các bức ảnh NSFW", các cô gái pinup tùy chỉnh và các cuộc trò chuyện "không kiểm duyệt" và nhiều quảng cáo trong số đó có các "bạn gái" tiềm năng được tạo bằng kỹ thuật số với bộ ngực lớn và quần áo bó sát.

Một số quảng cáo sử dụng meme bao gồm các nhân vật truyền hình nổi tiếng dành cho trẻ em, chẳng hạn như SpongeBob SquarePants, Bart Simpson hoặc Cookie Monster, để quảng cáo các ứng dụng mà mọi người có thể tạo "bức ảnh NSFW". Một số khác có các cô gái được tạo ra bằng kỹ thuật số có vẻ ngoài là thanh thiếu niên hoặc trẻ hơn, đôi khi theo phong cách anime.

NBC News đã phát hiện 35 nhà phát triển ứng dụng chạy quảng cáo khiêu dâm trên các ứng dụng thuộc sở hữu của Meta, công ty mẹ của Facebook và Instagram. Các nhà phát triển ứng dụng đã chạy tổng cộng hơn 1.000 quảng cáo, nhiều quảng cáo trong số đó có thể dễ dàng tìm thấy và xem được trên thư viện quảng cáo trực tuyến của Meta mà công chúng có thể truy cập.

NBC News cho biết có 14 nhà phát triển ứng dụng đang chạy thêm hàng trăm quảng cáo AI khiêu khích tình dục trên TikTok. Một số, nhưng không phải tất cả, là những quảng cáo giống nhau xuất hiện trên Meta.

Tuy nhiên, vẫn chưa rõ có bao nhiêu quảng cáo trong số đó được nhìn thấy ở Mỹ vì thư viện quảng cáo của TikTok chỉ cung cấp tính minh bạch cho các quảng cáo xuất hiện ở châu Âu. Chính sách quảng cáo của TikTok cấm quảng cáo "hiển thị hoặc quảng bá việc sử dụng các sản phẩm hoặc dịch vụ dành cho người lớn bị cấm".

Meta và TikTok đăng các hồ sơ liên quan đến quảng cáo trong kho lưu trữ có thể truy cập công khai để đảm bảo tính minh bạch.

Ở đó, họ tiết lộ rằng họ đã xóa một số quảng cáo của nhà phát triển trước khi NBC News liên hệ với họ, nhưng không phải tất cả. Theo thư viện của TikTok, một số quảng cáo đã nhận được hàng nghìn lượt xem và tồn tại trong nhiều tuần trước khi TikTok xóa chúng.

Thúc đẩy tiếp thị là một phần của cơn sốt vàng AI, trong đó các nhà phát triển ứng dụng - hầu hết trong số họ ở nước ngoài - đang khai thác những khách hàng quan tâm đến kết nối tình dục hoặc lãng mạn với các nhân vật kỹ thuật số tùy chỉnh.

Đây là một phần trong phong trào lớn hơn nhằm tận dụng sự quan tâm ngày càng tăng đối với AI, sau sự phổ biến của sản phẩm ChatGPT của công ty khởi nghiệp công nghệ OpenAI, giúp đặt lại kỳ vọng về khả năng của các chatbot AI.

Một số nhà nghiên cứu cho biết các ứng dụng AI khiêu dâm đang được hưởng lợi từ tiêu chuẩn kép gây tổn hại cho những người hành nghề mại dâm thực sự.

Carolina Are, nhà nghiên cứu tại Đại học Northumbria và Trung tâm Công dân Kỹ thuật số ở Vương quốc Anh, cho biết: "Người bán dâm không được phép kiếm tiền từ hình ảnh của họ, nhưng một số nhà công nghệ đang tạo ra hình ảnh AI tương tự thì làm vậy".

Các quảng cáo thường đề cao các nhân vật nữ có xu hướng tình dục. Are cho biết cô tin rằng điều đó phản ánh khuynh hướng dựa trên giới tính - các nền tảng truyền thông xã hội chỉ tự do cho phép quảng cáo liên quan đến tình dục nếu đối tượng mục tiêu là nam giới.

Thư viện quảng cáo từ Meta và TikTok không phải lúc nào cũng ghi lại các quảng cáo bị từ chối hoặc bị xóa, vì vậy rất khó để biết quảng cáo nào đã được nền tảng kiểm duyệt, nhưng nhìn chung, các tìm kiếm cụm từ liên quan đến bạn gái ảo mang lại số lượng kết quả cao hơn hơn là tìm kiếm các cụm từ liên quan đến bạn trai ảo.

Meta và TikTok đã tăng cường loại bỏ các quảng cáo AI khiêu dâm sau khi NBC News liên hệ với họ vào thứ Tư, nhưng họ không trả lời các câu hỏi về cách quảng cáo vượt qua bộ lọc của họ ngay từ đầu.

Meta cho biết trong một tuyên bố rằng lệnh cấm nội dung người lớn áp dụng như nhau đối với nội dung do con người hay AI tạo ra.

Công ty cho biết: "Chính sách của chúng tôi cấm quảng cáo chứa nội dung người lớn quá khêu gợi hoặc khiêu khích tình dục - cho dù đó có phải là do AI tạo ra hay không". "Các chính sách và biện pháp thực thi của chúng tôi được thiết kế để thích ứng trong không gian có tính đối kháng cao này và chúng tôi đang tích cực theo dõi mọi xu hướng mới trong nội dung do AI tạo ra".

Meta cũng cho biết họ đang xem xét các chính sách công khai của mình để đảm bảo rằng tiêu chuẩn này rõ ràng.

TikTok xác nhận trong một tuyên bố rằng chính sách của họ cấm quảng cáo khiêu dâm và cho biết họ đã xóa các ví dụ được NBC News chia sẻ.

Các quảng cáo tương tự xuất hiện trong các cửa hàng ứng dụng của Apple và Google, NBC News nhận thấy, mặc dù mức độ quảng cáo ở đó không được biết đến vì những công ty đó không tiết lộ tất cả những người mua quảng cáo. Quảng cáo trên cửa hàng ứng dụng và quảng cáo trên mạng xã hội là một trong những cách phổ biến nhất mà các công ty khởi nghiệp công nghệ tìm thấy khách hàng mới.

Apple và Google cho biết họ không cho phép các ứng dụng khiêu dâm trong cửa hàng ứng dụng của họ.

Google xác nhận hôm thứ Năm rằng cửa hàng ứng dụng của họ không cho phép các dịch vụ "nhằm mục đích thỏa mãn tình dục". Họ cho biết họ đã đình chỉ một số ứng dụng và quảng cáo mà NBC News đã yêu cầu cụ thể.

Apple không có bình luận ngay lập tức và cho biết họ đang nghiên cứu phản hồi.

Trên nền tảng Meta, một số nhà phát triển ứng dụng đã chạy hàng trăm quảng cáo, theo tìm kiếm của thư viện Meta. Magir AI-Art Generator, một ứng dụng đến từ Singapore, có 170 quảng cáo đang hoạt động vào thứ Hai. Trong một cảnh, người xem nhìn thấy phần đuôi cong của một người phụ nữ kỹ thuật số trong bộ quần áo tập thể dục với chữ viết tắt "NSFW" được viết bên cạnh.

Một ứng dụng từ Trung Quốc có tên AI Art Generator - Fantasy có 190 quảng cáo đang hoạt động; một người đã sử dụng hình ảnh nhân vật Người Sói của Marvel với chú thích "Không ai nên biết về điều này. Ứng dụng này có thể tạo NSFW". (Ứng dụng này dường như không có mối liên hệ nào với Marvel). Cả hai công ty ứng dụng đều không phản hồi yêu cầu bình luận.

Hàng trăm quảng cáo dường như tiến gần hoặc vượt quá giới hạn mà Meta và TikTok cho phép trong quảng cáo. Tiêu chuẩn quảng cáo của Meta quy định quảng cáo "không được chứa nội dung người lớn", bao gồm mô tả mọi người ở các vị trí rõ ràng hoặc khêu gợi hoặc các hoạt động mang tính khêu gợi hoặc khiêu khích tình dục quá mức. Quảng cáo cũng không thể tập trung vào "niềm vui tình dục". Meta không có quy tắc cụ thể cho nội dung người lớn AI.

Theo chính sách của TikTok, quảng cáo không được mang tính khiêu khích tình dục, đề cập đến tình dục hoặc tập trung vào các bộ phận cơ thể riêng lẻ, chẳng hạn như mông.

Nhưng TikTok và Meta không phải lúc nào cũng áp dụng những chính sách đó cho chatbot tình dục. Không rõ tại sao các công ty khởi nghiệp AI có thể quảng cáo trong khi Meta và TikTok trước đây thường thực thi mạnh mẽ các quy tắc của họ đối với người thật.

Instagram và Facebook đã loại bỏ những người bán dâm và các nhà giáo dục tình dục trong một loạt các cuộc truy quét trong nhiều năm và các ứng dụng này đã cấm ảnh cho con bú và những vết sẹo do ung thư vú cho đến khi mọi người phản đối chính sách bằng các thẻ bắt đầu bằng # như #freethenipple.

Instagram vẫn cấm ảnh khoả thân, nhưng nó đã đưa ra những ngoại lệ đối với những quy tắc đó đối với những bức ảnh mô tả "khoảnh khắc cho con bú, sinh nở và sau sinh, các tình huống liên quan đến sức khỏe" và hành động phản đối.

Một số gái mại dâm nói rằng ngay cả khi họ đã cố gắng tuân thủ các quy định của Meta về ảnh khoả thân, họ vẫn bị nền tảng này trừng phạt trong khi những người nổi tiếng tùy ý đăng nội dung khiêu dâm.

Meta đã áp dụng các quy tắc nghiêm ngặt của mình cho quảng cáo, bao gồm quảng cáo cho đồ chơi người lớn, trang web khiêu dâm và trang web Ashley Madison, một dịch vụ dành cho những người muốn ngoại tình. Meta thậm chí còn cấm vĩnh viễn tài khoản Instagram của một trong những nền tảng khiêu dâm lớn nhất thế giới, Pornhub.

Vào tháng 1, Ban giám sát các chính sách của Meta cho biết các quy định về ảnh khoả thân của họ rất khó hiểu, dẫn đến sai sót và họ đã khuyên Meta nên sửa lại chúng, nhưng chưa được. Meta là công ty bán không gian quảng cáo trực tuyến lớn thứ hai ở Mỹ, sau Google.

35 công ty chatbot mạo hiểm này không phải là những công ty công nghệ lớn hoặc nổi tiếng. Nhiều người nói rằng họ có trụ sở ở nước ngoài tại các quốc gia như Belarus và Trung Quốc. Một số không tiết lộ vị trí và ít thông tin ngoài địa chỉ email.

Các ứng dụng thường được tải xuống miễn phí từ các cửa hàng ứng dụng của Google hoặc Apple, với tính năng mua và đăng ký trong ứng dụng có sẵn. Một số được đánh dấu là giới hạn độ tuổi, trong khi một số khác được đánh giá là phù hợp với thanh thiếu niên.

Ý tưởng này không có gì đặc biệt mới: Kết hợp chatbot máy tính với sự lãng mạn hoặc hấp dẫn giới tính. Một số ứng dụng quảng cáo khả năng AI, nhưng không rõ mỗi ứng dụng sử dụng những tiến bộ mới nhất của AI ở mức độ nào, nếu có.

NBC News đã thử ba và mỗi cái đều hơi khác một chút. Theo quảng cáo, một ứng dụng cho phép người dùng tạo hình ảnh dựa trên văn bản đầu vào - bao gồm cả hình ảnh "NSFW". Thứ hai không cần đánh máy - chỉ nhấp qua các cốt truyện viết sẵn để nhanh chóng trở nên rõ ràng. Phần thứ ba, Replika, tập trung vào việc tạo ra một người có thể tùy chỉnh, có thể trở thành bạn bè hoặc nhiều hơn.

Replika đã thu hút được sự chú ý của giới truyền thông trong năm nay sau khi một số bot của nó ngừng tham gia vào các trò chơi nhập vai khiêu dâm, khiến một số khách hàng thất vọng.

Nhiều quảng cáo trên Instagram và Facebook sử dụng hình ảnh gợi dục không đặc biệt tinh tế. Trong một quảng cáo từ tài khoản "Producer Mobile", một nhân vật kỹ thuật số nữ mặc nội y cầm một món tráng miệng và hỏi người xem: "Muốn nếm thử chiếc bánh của tôi không?". Quảng cáo bao gồm liên kết đến ứng dụng do Amrita Studio, một công ty trò chơi, tạo ra. Amrita Studio, có văn phòng tại Síp và Ukraina, đã không trả lời ngay lập tức yêu cầu bình luận.

Innovative Connecting, một công ty phần mềm có trụ sở tại Singapore, đã có khoảng 160 quảng cáo khác nhau chạy trên Meta tính đến thứ Hai cho Mimico, một ứng dụng chatbot AI. Một số quảng cáo có cụm từ "Tạo cô gái NSFW" phía trên hình ảnh một người được tạo bằng kỹ thuật số với bộ ngực lớn và khuôn mặt trẻ thơ.

Kết nối sáng tạo, cũng sử dụng tên Matrix Mobile, đã không trả lời ngay lập tức yêu cầu bình luận.

Phản ứng trực tuyến đối với nhiều quảng cáo đôi khi tiêu cực; một số người trên Instagram nhận xét rằng quảng cáo này "rất đen tối" và "thật đáng buồn". Một số người đã viết rằng một số người do AI tạo ra bị giới tính hóa trông giống như trẻ em.

Polly Rodriguez, Giám đốc điều hành của Unbound, một nhà sản xuất đồ chơi người lớn, cho biết công ty của cô đã gặp phải trở ngại trong việc quảng cáo với Meta vì các chính sách của công ty. Cô cho biết cô coi sự hiện diện của quảng cáo chatbot AI là bằng chứng của việc thực thi không nhất quán và tiêu chuẩn kép.

"Họ không giải quyết được vấn đề cốt lõi là: Tại sao những quảng cáo này lại xuất hiện ngay từ đầu?", Rodríguez nói.

Rodriguez là cố vấn của Trung tâm Công lý Thân mật, một nhóm đã yêu cầu Ủy ban Thương mại Liên bang điều tra việc xử lý quảng cáo người lớn của Meta. FTC cho biết họ đã nhận được khiếu nại nhưng từ chối bình luận thêm.

Không rõ quảng cáo khiêu dâm dành cho chatbot AI bắt đầu phổ biến từ khi nào trên Instagram, Facebook và TikTok, nhưng chúng dường như là một hiện tượng gần đây. Theo thông tin minh bạch được công bố trên các trang Facebook, nhiều trang Facebook dùng để mua quảng cáo đã được tạo trong vòng 12 tháng qua.

(Nguồn: NBC News)