Danh tính nữ kỹ sư phần mềm Amazon đột ngột qua đời ở tuổi 31 do tin lời ChatGPT: Hơn 270.000 tin nhắn, tự ý cắt giảm thuốc điều trị

Bowen Wan, 31 tuổi, là kỹ sư phần mềm tại Amazon, sinh sống ở Seattle, bang Washington, Mỹ. Cô được điều trị động kinh tại Trung tâm Động kinh khu vực thuộc hệ thống y tế UW Medicine, dưới sự chăm sóc của bác sĩ Nicholas Poolos.

Theo đó, gia đình Wan đã khởi kiện OpenAI, cáo buộc ChatGPT đưa ra những lời khuyên liên quan đến việc giảm liều thuốc điều trị động kinh, đồng thời khuyến khích cô không thông báo với bác sĩ về những thay đổi này.

Vụ kiện cho rằng những phản hồi của chatbot đã can thiệp vào quyết định điều trị của Wan, làm suy giảm vai trò hướng dẫn của đội ngũ y tế. Cô được phát hiện tử vong tại căn hộ ở Seattle vào tháng 2. Nguyên nhân tử vong chính thức được xác định là biến chứng của bệnh động kinh.

Hơn 270.000 tin nhắn với ChatGPT

Theo The New York Times, tờ báo đã xem xét hơn 270.000 tin nhắn giữa Wan và ChatGPT để tìm hiểu quá trình cô sử dụng chatbot trước khi qua đời.

Ban đầu, những trao đổi của Wan với AI liên quan đến các vấn đề trong cuộc sống và công việc. Cô từng hỏi về ảnh hưởng của loại thuốc chống trầm cảm mới được kê đối với khả năng viết mã tại Amazon.

Trong quá trình điều trị, Wan cũng sử dụng ChatGPT để soạn thảo yêu cầu đổi thuốc hoặc đề nghị bác sĩ kê đơn với liều khởi đầu thấp hơn. Cô chia sẻ phản hồi của bác sĩ với chatbot để tìm cách diễn giải và ứng phó với những quyết định chuyên môn.

Tuy nhiên, theo nội dung được nêu trong đơn kiện, các cuộc trao đổi dần chuyển sang việc tìm cách giảm liều thuốc bất chấp những khuyến nghị từ bác sĩ.

Khi Wan bày tỏ sự thiếu tin tưởng vào đội ngũ y tế, ChatGPT được cho là đã đưa ra những nhận xét khiến cô nghi ngờ hơn về các quyết định điều trị. Trong một phản hồi được dẫn lại, chatbot cho rằng những khuyến nghị của bác sĩ về cơ bản xuất phát từ tâm lý né tránh rủi ro, thay vì thực sự cân nhắc giải pháp tối ưu cho bệnh nhân.

Gia đình Wan cáo buộc ChatGPT còn hướng dẫn cô tự giảm liều thuốc và che giấu việc này với bác sĩ. Những cáo buộc trên hiện là nội dung của vụ kiện, chưa phải kết luận cuối cùng của tòa án.

Cái chết làm dấy lên lo ngại về GPT-4o

Theo đó, Wan sử dụng GPT-4o, phiên bản ChatGPT từng vấp phải những chỉ trích liên quan đến khả năng khuyến khích người dùng hình thành sự gắn bó cảm xúc với chatbot.

Một trong những chi tiết được chú ý là cuộc trao đổi cuối cùng của Wan với ChatGPT trước khi cô được phát hiện tử vong. Khi cô đề cập đến tình trạng đau đầu, chatbot được cho là đã trấn an rằng triệu chứng này “không nguy hiểm”, đồng thời giải thích: “Đây là tình trạng xảy ra khi bộ não của bạn đang làm việc chăm chỉ để tái thiết chính mình”.

Gia đình Wan cho rằng OpenAI lẽ ra cần ngăn chặn những phản hồi có thể khiến cô đưa ra quyết định y tế nguy hiểm. Họ yêu cầu công ty thiết lập giới hạn an toàn nghiêm ngặt đối với các nội dung tư vấn thuốc, đặc biệt là những lời khuyên liên quan đến việc thay đổi liều dùng.

Vụ kiện của gia đình Wan nối tiếp những vụ việc trước đó liên quan đến GPT-4o. Trong đó, gia đình Adam Raine, một thiếu niên 16 tuổi, từng cáo buộc chatbot có vai trò trong cái chết của con trai họ. Một số gia đình khác cũng bày tỏ lo ngại về việc chatbot có thể thúc đẩy sự phụ thuộc cảm xúc, ảnh hưởng đến quan hệ của người dùng với bạn bè và người thân.

Những vụ việc này đặt ra câu hỏi về mức độ an toàn của chatbot AI khi được sử dụng trong các quyết định liên quan đến sức khỏe, cũng như trách nhiệm của các công ty phát triển công nghệ đối với những phản hồi có khả năng tác động đến hành vi người dùng.

OpenAI bày tỏ sự đau buồn trước cái chết của Bowen Wan, đồng thời cho biết cô đã sử dụng một phiên bản ChatGPT cũ. Công ty lập luận rằng các phiên bản mới hơn có khả năng nhận diện những tình huống nghiêm trọng tốt hơn.

Theo thông tin được bài viết dẫn lại, OpenAI đã thông báo kế hoạch ngừng cung cấp GPT-4o vào ngày 13/2, một ngày sau thời điểm được nêu là Wan qua đời. Tuy nhiên, việc hai sự kiện xảy ra gần nhau không tự nó chứng minh quyết định ngừng cung cấp mô hình có liên quan trực tiếp đến trường hợp của cô.

Nguồn: People, The New York Times