Nghiên cứu mới của SAS và IDC cho thấy các doanh nghiệp chú trọng quản trị, chất lượng dữ liệu, khả năng giải thích và kiểm toán AI có thể đạt tỷ suất hoàn vốn (ROI) từ các dự án AI cao hơn đáng kể so với nhóm còn lại.
AI đang được triển khai ngày càng rộng trong doanh nghiệp, nhưng khả năng tạo ra giá trị không chỉ phụ thuộc vào mức độ đầu tư công nghệ. Báo cáo Data and AI Impact Report: The New Economics of Trust do SAS thực hiện với dữ liệu nghiên cứu từ IDC cho thấy yếu tố tạo khác biệt nằm ở cách doanh nghiệp xây dựng và vận hành các hệ thống AI đáng tin cậy.
Theo báo cáo, 62% doanh nghiệp đầu tư vào các biện pháp AI đáng tin cậy ghi nhận ROI từ các dự án AI, so với chỉ 4% ở nhóm còn lại. Điều này tương ứng mức chênh lệch khoảng 15 lần giữa hai nhóm.
Nghiên cứu cũng cho thấy nhóm doanh nghiệp dẫn đầu về AI đáng tin cậy đạt mức cải thiện trung bình cao hơn 1,85 lần trên 13 chỉ số kinh doanh, bao gồm tăng trưởng doanh thu, tiết giảm chi phí và nâng cao trải nghiệm khách hàng. Trong khi đó, 85% doanh nghiệp thuộc nhóm dẫn đầu cho biết họ tiếp tục tăng đầu tư cho AI đáng tin cậy thêm hơn 10% trong năm nay.
Khả năng giải thích trở thành yếu tố quan trọng
Khi AI chuyển từ những công cụ hỗ trợ sang các hệ thống có khả năng tự thực hiện nhiều nhiệm vụ, mức độ tin cậy của người dùng đối với kết quả do máy tạo ra trở thành vấn đề đáng chú ý.
Báo cáo ghi nhận 97,2% người dùng từng bác bỏ hoặc không thực hiện theo quyết định do AI đưa ra trong ít nhất một số trường hợp. Đáng chú ý, nguyên nhân phổ biến nhất không nằm ở việc kết quả được đánh giá đúng hay sai, mà ở việc AI không thể giải thích cơ sở dẫn đến quyết định.
Mức độ tin tưởng cũng giảm từ 76% đối với AI tạo sinh xuống 66% với AI tác nhân (agentic AI). Theo nghiên cứu, khi hệ thống được trao quyền tự chủ cao hơn, yêu cầu về khả năng giám sát, giải thích và xác định trách nhiệm càng trở nên quan trọng.
Ông Bryan Harris, Giám đốc Công nghệ SAS, cho rằng các hệ thống AI hiện đại vẫn có thể mắc lỗi khi xử lý những nhiệm vụ phức tạp. Vì vậy, doanh nghiệp cần kết hợp kiến thức nghiệp vụ với quy trình vận hành AI, đồng thời duy trì vai trò giám sát của con người trong những quyết định có mức độ rủi ro cao.
Ông Chris Marshall, Phó Chủ tịch IDC, nhận định khi AI ngày càng tự chủ, doanh nghiệp phải giải quyết bài toán duy trì niềm tin đối với những hệ thống mà con người không trực tiếp kiểm soát toàn bộ quá trình vận hành. Theo ông, năng lực giám sát, khả năng giải thích, trách nhiệm giải trình và nền tảng dữ liệu là những yếu tố quan trọng đối với việc mở rộng AI.
Dữ liệu là nền móng của AI đáng tin cậy
Một trong những điểm được báo cáo nhấn mạnh là chất lượng hạ tầng dữ liệu. Chỉ 17,5% doanh nghiệp được khảo sát sở hữu hạ tầng dữ liệu được tối ưu đầy đủ để triển khai AI tác nhân.
Nghiên cứu cho thấy các doanh nghiệp có nền tảng dữ liệu được tối ưu có khả năng đạt ROI từ dự án AI cao gấp 4 lần. Nhóm này đồng thời có khả năng áp dụng các yêu cầu bắt buộc về kiểm soát chất lượng dữ liệu và khả năng giải thích cao gấp 6 lần so với các doanh nghiệp còn lại.
Theo SAS, dữ liệu đầu vào có ảnh hưởng trực tiếp đến chất lượng quyết định của AI. Khi nền tảng dữ liệu thiếu đồng nhất, minh bạch hoặc khả năng kiểm soát, doanh nghiệp không chỉ gặp khó khăn trong quản trị hệ thống mà còn có nguy cơ khiến nhân viên phải thường xuyên kiểm tra và điều chỉnh kết quả AI bằng phương pháp thủ công.
Báo cáo cho rằng việc xây dựng nền tảng dữ liệu đủ mạnh, minh bạch và có khả năng kiểm toán là một trong những điều kiện để doanh nghiệp giảm khoảng cách niềm tin và khai thác AI hiệu quả hơn.
AI đáng tin cậy gắn với hiệu quả kinh doanh
Nghiên cứu cho thấy nhóm doanh nghiệp đạt điểm cao về AI đáng tin cậy không nhất thiết khác biệt về loại công nghệ được sử dụng. Điểm khác nằm ở cách các tổ chức này quản trị dữ liệu, mô hình AI, chính sách sử dụng và cơ chế giám sát.
Trong nghiên cứu, doanh nghiệp được đánh giá theo thang điểm 100 dựa trên năm nhóm tiêu chí: chất lượng và quản trị dữ liệu; quản trị và giám sát mô hình; khả năng giải thích và tính công bằng; chính sách AI có trách nhiệm; cùng hoạt động kiểm toán và trách nhiệm giải trình.
Các doanh nghiệp đạt điểm trung bình từ 80 trở lên được xếp vào nhóm dẫn đầu về AI đáng tin cậy. Theo báo cáo, nhóm này tiếp tục gia tăng đầu tư, qua đó tạo ra khoảng cách ngày càng rõ về hiệu quả khai thác AI.
Kết quả nghiên cứu cũng cho thấy sự khác biệt giữa các ngành. Trong lĩnh vực ngân hàng, 85% tổ chức thuộc nhóm dẫn đầu về AI đã thiết lập khung quản trị, trong khi tỷ lệ này ở nhóm tụt hậu là 29%. Tại khu vực công, 41% doanh nghiệp hàng đầu dự kiến tăng đầu tư cho AI đáng tin cậy hơn 20% trong năm tới.
Ở lĩnh vực khoa học đời sống, 23% doanh nghiệp cho biết đã mở rộng AI trên phạm vi toàn tổ chức, mức cao nhất trong bốn lĩnh vực được khảo sát.
Báo cáo Data and AI Impact Report: The New Economics of Trust được xây dựng dựa trên khảo sát 2.699 nhà quản lý có hiểu biết hoặc có ảnh hưởng đến các sáng kiến dữ liệu và AI tại doanh nghiệp. Nghiên cứu được thực hiện tại 28 quốc gia, tập trung vào bốn lĩnh vực gồm ngân hàng, bảo hiểm, khoa học đời sống và khu vực công.
Theo SAS, một hệ thống AI đáng tin cậy cần đáp ứng đồng thời các yêu cầu về độ tin cậy, công bằng, an toàn, tuân thủ pháp lý và khả năng giải thích quyết định. Doanh nghiệp cũng cần xác định rõ trách nhiệm khi AI tạo ra kết quả sai hoặc không đầy đủ, đồng thời duy trì cơ chế quản trị và kiểm toán xuyên suốt vòng đời của hệ thống.