Google đã loại bỏ AI Overviews khỏi một số tìm kiếm liên quan đến sức khỏe sau khi xuất hiện phản ánh về việc AI cung cấp thông tin y khoa chưa đầy đủ và có nguy cơ gây hiểu nhầm.
Google vừa điều chỉnh tính năng AI Overviews trên công cụ tìm kiếm của mình, theo đó loại bỏ phần tóm tắt do AI tạo ra đối với một số câu hỏi liên quan đến y tế và sức khỏe. Động thái này được đưa ra sau khi xuất hiện nhiều ý kiến lo ngại về tính chính xác của thông tin mà hệ thống AI cung cấp.
Theo ghi nhận từ TechCrunch, khi người dùng tìm kiếm một số truy vấn y khoa cụ thể, AI Overviews không còn hiển thị nội dung tóm tắt tự động như trước, mà thay vào đó chuyển hướng người dùng đến các kết quả tìm kiếm truyền thống được thu thập từ web. Kết quả thử nghiệm cho thấy thay đổi này đã được áp dụng trên thực tế, ít nhất với một số nhóm câu hỏi nhạy cảm.
Nguyên nhân của điều chỉnh trên được cho là xuất phát từ một bài điều tra của The Guardian, trong đó chỉ ra rằng AI Overviews đã cung cấp thông tin thiếu đầy đủ và có nguy cơ gây hiểu nhầm cho người dùng. Cụ thể, khi được hỏi về ngưỡng chỉ số xét nghiệm máu gan, hệ thống AI đưa ra câu trả lời mang tính khái quát, nhưng không tính đến các yếu tố quan trọng như độ tuổi, giới tính, sắc tộc hay quốc tịch – những yếu tố có thể ảnh hưởng đáng kể đến kết quả xét nghiệm y khoa.
The Guardian cũng cho biết rằng dù thay đổi cách diễn đạt câu hỏi, chẳng hạn như sử dụng các thuật ngữ chuyên môn khác nhau, AI Overviews trước đây vẫn tiếp tục hiển thị phần tóm tắt. Tuy nhiên, theo thử nghiệm mới nhất của TechCrunch, các truy vấn tương tự hiện không còn kích hoạt AI Overviews, dù Google vẫn gợi ý sử dụng chế độ tìm kiếm AI nâng cao.
Phản hồi về vấn đề này, Google cho biết hãng không bình luận về từng trường hợp loại bỏ cụ thể, nhưng khẳng định công ty thường xuyên thực hiện các cải tiến tổng thể nhằm nâng cao chất lượng và độ an toàn của AI Overviews.
Trên thực tế, kể từ khi ra mắt vào năm 2024, AI Overviews đã nhiều lần vấp phải chỉ trích liên quan đến thông tin sai lệch hoặc thiếu ngữ cảnh, đặc biệt với các chủ đề nhạy cảm như sức khỏe. Điều này từng khiến Google phải tạm thời rút tính năng này trước khi đưa trở lại và dần triển khai rộng rãi hơn trên Search.
Việc Google chủ động hạn chế AI Overviews trong lĩnh vực y tế cho thấy hãng đang thận trọng hơn với các nội dung có ảnh hưởng trực tiếp đến sức khỏe người dùng, trong bối cảnh AI ngày càng đóng vai trò lớn trong trải nghiệm tìm kiếm trực tuyến.