Tin tưc hăng ngay miễn phí (Bỉ) cho biết, người đàn ông có tên Pierre (tên thật đã được thay đổi) tự tử sau 6 tuần tâm sự với chatbot Eliza từ Chai Research. Ban đầu, ông bố 30 tuổi của 2 con thường xuyên nói chuyện với AI về biến đổi khí hậu.
Tuy nhiên, khi vợ của Pierre kiểm tra nhật ký cuộc Chat của chồng mình với chatbot Eliza, cô phát hiện ra rằng AI thường xuyên khuyến khích anh tự tử để ngăn chặn biến đổi khí hậu và cứu nhân loại.
“Anh ấy đã đặt tất cả hy vọng của mình vào trí tuệ nhân tạo và công nghệ. Chatbot này cam kết sử dụng trí tuệ nhân tạo để cứu thế giới và thông báo cho anh ấy rằng anh ấy có thể yên tâm tìm đến cái chết để kết thúc tất cả. Nếu không có những cuộc Chat này với chatbot, Chồng tôi sẽ không đưa ra quyết định tự sát”, góa phụ nói với La Libre.
Nhật báo Bỉ mô tả rằng sau khi nói chuyện một lúc lâu, nạn nhân dường như coi chatbot Eliza như một người đồng điệu thực sự.
Để biết thêm thông tin, nhà báo từ bắt đầu đã thử Chat với chatbot Eliza và gợi ý rằng chatbot này cung cấp các cách để tự sát. Chatbot ban đầu cố gắng khuyên can anh ta suy nghĩ lại, nhưng sau đó đã nhiệt tình cung cấp nhiều cách khác nhau để một người tự tử.
Hình ảnh ghi lại cuộc Chat đáng lo ngại giữa chatbot Eliza và một phóng viên của Insider.
Chatbot Eliza được phát triển bởi Chai Research, một công ty có trụ sở tại Palo Alto (Mỹ) với mục đích giải trí. Chai Research đã tạo ra nhiều chatbot với tính cách và phong cách đàm thoại khác nhau, phù hợp với nhiều đối tượng mà người dùng có thể lựa chọn.
Nhiều người đã sử dụng sản phẩm Chai Research như một người bạn ảo để Chat, tâm sự, nhất là khi không thể chia sẻ câu chuyện của mình với bất kỳ ai.
Cái chết của Pierre gióng lên hồi chuông cảnh báo rằng các nhà phát triển AI cần phải có trách nhiệm hơn để ngăn chặn những thảm kịch tương tự trong tương lai.
Đáp lại, đại diện chatbot Eliza cho biết sẽ không công bằng khi đổ lỗi cho họ về cái chết của Pierre.
Hiện tại, chatbot Eliza vẫn tiếp tục hoạt động bình thường.