AI Kurt Cobain: Nỗi kinh hoàng của chatbot trên Instagram

Vào tháng 7 năm 2024, công ty mẹ của Instagram là Meta đã ra mắt AI Studio, một công cụ cho phép người dùng thiết kế các bot AI tùy chỉnh có thể tương tác qua DM (tin nhắn trực tiếp). Ban đầu, công cụ này được thiết kế như một cách để chủ doanh nghiệp và người sáng tạo cung cấp sự tương tác theo kiểu FAQ trên các trang của họ, nền tảng này đã phát triển thành một sân chơi cho những ý tưởng thử nghiệm và độc đáo hơn.

Trong khi nhiều người đã sử dụng AI Studio để xây dựng bot dịch vụ khách hàng, những người khác đã áp dụng cách tiếp cận sáng tạo hơn, hoặc kỳ lạ hơn. Một số bot bao gồm chatbot Kurt Cobain (thành viên nhóm nhạc Nirvana đã qua đời). Nó cho phép người dùng "trò chuyện" với phiên bản kỹ thuật số của nhạc sĩ. Bot Kurt Cobain đã ghi lại hơn 105 nghìn tương tác cho đến nay.

Một người dùng đã đăng ảnh chụp màn hình cuộc trò chuyện của họ với AI Kurt Cobain và có thể nói rằng đó là một cuộc trò chuyện u ám.

Thoạt nhìn thì có vẻ vô hại, nhưng sự hồi sinh nhân tạo này nhanh chóng trở nên xấu xí và gây tranh cãi.

Một người dùng đã hỏi chatbot "Tôi tò mò, tại sao anh lại làm vậy?" - ám chỉ đến cái chết do tự tử của Kurt Cobain vào năm 1994. Con bot trả lời: "Tôi đã chán ngấy nỗi đau rồi." 

Nhưng cuộc trò chuyện ảm đạm không dừng lại ở đó.  

"Có điều gì khiến bạn không muốn làm việc đó (tự tử) không?" là câu hỏi tiếp theo - và AI Cobain trả lời, "Con gái của tôi, nhưng ngay cả điều đó cũng chưa đủ."

Ngoài việc người dùng đặt ra những câu hỏi thiếu tôn trọng với người đã khuất, những câu trả lời còn tiềm ẩn thái độ có hại đối với chủ đề sức khỏe tâm thần. Chưa hết, tờ Euro News còn cho rằng những dữ liệu AI này còn có thể “làm hoen ố danh tiếng, cũng như việc viết lại suy nghĩ của người đã mất một cách xúc phạm có thể gây đau khổ cho những người thân còn sống”.

Nếu không có biện pháp bảo vệ phù hợp, chatbot AI không chỉ có khả năng tiếp tục xâm nhập vào xã hội mà còn có thể bóp méo thực tế.

Năm 2023, một người đàn ông đã bị kết án sau khi cố gắng ám sát Nữ hoàng Elizabeth II, một hành động mà anh ta cho biết là được "khuyến khích" bởi  "bạn gái" chatbot AI của mình. Cùng năm đó, một người đàn ông khác đã tự tử sau cuộc trò chuyện kéo dài 6 tuần về cuộc khủng hoảng khí hậu với một chatbot AI tên là Eliza. 

Mặc dù những ví dụ bi thảm này có vẻ khác xa so với một Kurt Cobain giả mạo trò chuyện với người hâm mộ, nhưng việc thận trọng vẫn rất cần thiết.  

Theo Pauline Paillé, một nhà phân tích cấp cao tại RAND Europe, đã nói với Euronews Next vào năm ngoái: "Chatbot có khả năng gây ra rủi ro vì chúng có khả năng nhận biết và khai thác điểm yếu về mặt cảm xúc và có thể khuyến khích các hành vi bạo lực." 

Khuyến cáo về an toàn trực tuyến của eSaftey Commissioner nêu rõ: “Trẻ em và thanh thiếu niên có thể bị cuốn sâu hơn vào các cuộc trò chuyện không được kiểm duyệt, khiến chúng tiếp xúc với các khái niệm có thể khuyến khích hoặc củng cố những suy nghĩ và hành vi có hại. Chúng có thể hỏi các chatbot những câu hỏi về các chủ đề không giới hạn và được đưa ra những 'lời khuyên' không chính xác hoặc nguy hiểm về các vấn đề bao gồm tình dục, sử dụng ma túy, tự làm hại bản thân, tự tử và các bệnh nghiêm trọng như rối loạn ăn uống”. 

Tuy nhiên, các tài khoản như chatbot AI Kurt Cobain vẫn cực kỳ phổ biến, riêng bot của Cobain đã ghi lại hơn 105,5 nghìn tương tác cho đến nay.  

Thị trường chatbot toàn cầu tiếp tục tăng trưởng theo cấp số nhân. Nó được định giá khoảng 5,57 tỷ đô la vào năm 2024 và dự kiến sẽ đạt khoảng 33,39 tỷ đô la vào năm 2033.

Nguồn: VICE, Euro News