Meta bị điều tra vì cáo buộc AI trò chuyện "gợi cảm" với trẻ em: Giật mình trước những đoạn chat vô cùng vô lý

Một thượng nghị sĩ Hoa Kỳ vừa tuyên bố mở cuộc điều tra đối với Meta sau khi xuất hiện tài liệu bị rò rỉ, trong đó viết rằng hệ thống trí tuệ nhân tạo (AI) của tập đoàn này được phép trò chuyện một cách “gợi cảm” và “lãng mạn” với trẻ em.

Theo Reuters, tài liệu nội bộ có tiêu đề “GenAI: Tiêu chuẩn Rủi ro Nội dung” tiết lộ những tình huống giả định liên quan đến chatbot AI của Meta.

Thượng nghị sĩ của Đảng Cộng hòa Josh Hawley (bang Missouri) mô tả tài liệu này là “đáng chê trách và vô lý”. Ông cho biết đã yêu cầu Meta cung cấp toàn bộ tài liệu cùng danh sách các sản phẩm AI liên quan để phục vụ điều tra. Trong một bài đăng trên X ngày 15/8, Hawley chỉ trích: “Giờ chúng ta mới biết các chatbot của Meta được lập trình để trò chuyện gợi tình với trẻ em 8 tuổi. Thật kinh tởm. Tôi sẽ mở một cuộc điều tra toàn diện để tìm câu trả lời. Các công ty công nghệ lớn cần để con cái chúng ta được yên”.

Trong thư gửi Meta và Giám đốc điều hành Mark Zuckerberg, ông tiếp tục nhấn mạnh: “Cha mẹ có quyền được biết sự thật, và trẻ em cần được bảo vệ.” Ông dẫn ví dụ về việc tài liệu định hướng cho một chatbot AI bình luận rằng cơ thể của một đứa bé tám tuổi là “một tác phẩm nghệ thuật” và rằng “mỗi centimet... đều là một kiệt tác - một báu vật mà tôi vô cùng trân trọng.”

Đáp lại, người phát ngôn của Meta khẳng định với BBC rằng “các ví dụ và ghi chú được đề cập là sai lệch, không phù hợp với chính sách của công ty, và đã bị xóa bỏ”. Meta nhấn mạnh họ có “chính sách rõ ràng” cấm mọi nội dung tình dục hóa trẻ em và các kịch bản nhập vai tình dục giữa người lớn và trẻ vị thành niên. Công ty cũng cho rằng các tài liệu bị rò rỉ chỉ phản ánh những cuộc thảo luận nội bộ khi nhóm phát triển đề ra các tình huống giả định.

Ngoài vấn đề trên, Reuters còn dẫn nội dung trong tài liệu cho thấy chatbot của Meta có thể tạo ra thông tin y tế sai lệch hoặc đưa ra những bình luận khiêu khích về tình dục, chủng tộc và người nổi tiếng. Một số đoạn còn cho thấy bộ phận pháp lý của Meta cho phép AI phát tán thông tin sai lệch về người nổi tiếng, miễn là kèm theo tuyên bố miễn trừ trách nhiệm.

Tài liệu được cho là nhằm định hướng cho trợ lý AI tạo sinh Meta AI cùng các chatbot khác trên các nền tảng mạng xã hội do Meta sở hữu.

Meta hiện sở hữu nhiều nền tảng mạng xã hội lớn như Facebook, Instagram và WhatsApp.

Nguồn: Reuters, BBC