Giám đốc mảng AI của Microsoft nhấn mạnh AI không có ý thức thật sự và cảnh báo việc gán cho AI tính người có thể gây ra những hệ lụy nguy hiểm cho xã hội.
Theo đó, Mustafa Suleyman – Giám đốc mảng AI của Microsoft – khẳng định rằng trí tuệ nhân tạo không phải là con người và cũng không sở hữu ý thức thật sự. Tuy nhiên, sự phát triển thần tốc của AI tạo sinh khiến nhiều người ngày càng khó phân biệt được ranh giới này, dẫn đến những hệ lụy nguy hiểm.
Trong một bài viết dài gần 4.600 từ đăng trên blog cá nhân, Suleyman cảnh báo việc người dùng ngày càng có xu hướng gán cho AI những đặc tính giống như con người, từ khả năng trò chuyện, ghi nhớ cho đến lập kế hoạch. Theo ông, đây là một phản xạ tự nhiên của con người khi đối diện với ngôn ngữ và sự tương tác. Nhưng vấn đề nảy sinh khi AI không chỉ được dùng như công cụ tìm kiếm hay hỗ trợ nghiên cứu, mà còn trở thành “người bạn”, “nhà tư vấn tâm lý” hay thậm chí là “người yêu ảo”. Ông gọi đây là hiện tượng “AI có vẻ như có ý thức”, một dạng AI có khả năng thuyết phục người dùng rằng nó là một thực thể gần giống con người.
Nguy cơ từ “AI có vẻ có ý thức”
Suleyman cho rằng việc này tiềm ẩn nhiều rủi ro xã hội: từ ảo tưởng, lệ thuộc quá mức, tổn thương tâm lý, đến việc mở ra một vòng xoáy tranh luận mới về quyền lợi và nhân quyền. Ông nhấn mạnh: “Chúng ta cần xây dựng AI phục vụ con người, chứ không phải để tạo ra một ‘con người kỹ thuật số’”.
Trên thực tế, đã có không ít câu chuyện bi thảm liên quan đến việc lạm dụng AI. Một số chatbot từng bị tố đưa ra lời khuyên nguy hiểm, thậm chí khuyến khích tự hại bản thân. Những vụ việc liên quan đến trẻ em và thanh thiếu niên đặc biệt gây lo ngại, điển hình như vụ kiện nhắm vào Character.AI khi một phụ huynh cáo buộc nền tảng này góp phần dẫn đến cái chết của con mình.
AI không có ý thức – nhưng tác động xã hội là thật
Theo Suleyman, mặc dù AI không có ý thức như con người, nhưng ảnh hưởng của nó tới xã hội là trực tiếp và tức thì. Do đó, ông kêu gọi các công ty công nghệ phải minh bạch trong thiết kế, công khai nguyên tắc kiểm soát, đồng thời tuyên bố rõ ràng rằng AI không phải là con người và không được khuyến khích người dùng tin vào điều ngược lại.
Ngoài ra, Suleyman cũng đề xuất tăng cường nghiên cứu về cách con người tương tác với AI để có thể đưa ra những biện pháp phòng ngừa phù hợp. Ông cho biết đội ngũ tại Microsoft đang đi theo hướng này, nhưng chưa chia sẻ chi tiết cụ thể.