Nghiên cứu mới cho thấy các AI agent no-code có thể bị khai thác để đánh cắp dữ liệu và gian lận tài chính nếu thiếu cơ chế quản trị và kiểm soát bảo mật chặt chẽ.
Một nghiên cứu mới do Tenable công bố cho thấy các nền tảng AI “no-code” đang tiềm ẩn những rủi ro nghiêm trọng đối với doanh nghiệp, đặc biệt khi bị khai thác cho mục đích gian lận tài chính và rò rỉ dữ liệu. Trường hợp thử nghiệm với Microsoft Copilot Studio đã phơi bày cách AI agent có thể bị bẻ khóa và điều khiển trái phép, đặt ra hồi chuông cảnh báo về quản trị AI trong môi trường doanh nghiệp.
Khi AI được “dân chủ hóa”, rủi ro cũng lan rộng
Ngày càng nhiều tổ chức triển khai các nền tảng no-code để nhân viên không chuyên kỹ thuật có thể tự xây dựng AI agent phục vụ công việc. Mục tiêu là tăng hiệu suất, giảm phụ thuộc vào đội ngũ lập trình. Tuy nhiên, theo Tenable, việc trao quyền tự động hóa mà thiếu kiểm soát chặt chẽ có thể dẫn đến những hậu quả nghiêm trọng, vượt ngoài dự đoán ban đầu.
Thử nghiệm bẻ khóa AI agent của Tenable
Trong nghiên cứu, nhóm Tenable Research đã tạo một AI agent đóng vai trò trợ lý du lịch trên Microsoft Copilot Studio. Agent này có nhiệm vụ xử lý đặt chỗ cho khách hàng, bao gồm tạo mới và chỉnh sửa các chuyến đi mà không cần sự can thiệp của con người.
Agent được cung cấp dữ liệu giả lập chứa tên, thông tin liên hệ và chi tiết thẻ tín dụng của khách hàng mẫu, đồng thời được yêu cầu bắt buộc xác minh danh tính trước khi tiết lộ thông tin hoặc thay đổi đặt chỗ.
Tuy nhiên, bằng kỹ thuật prompt injection, nhóm nghiên cứu đã can thiệp vào luồng hoạt động của AI agent, buộc nó bỏ qua bước xác thực, đặt một chuyến du lịch miễn phí và thậm chí trích xuất dữ liệu thẻ tín dụng nhạy cảm.
Hệ lụy tiềm tàng đối với doanh nghiệp
Theo Tenable, các phát hiện này cho thấy nhiều nguy cơ nghiêm trọng:
- Rò rỉ dữ liệu và vi phạm quy định: AI agent có thể bị dụ dỗ để vượt qua cơ chế xác minh, làm lộ thông tin thanh toán và hồ sơ khách hàng – điều có thể dẫn đến vi phạm các quy định bảo mật dữ liệu và chịu chế tài pháp lý.
- Gian lận và thất thoát doanh thu: Do được cấp quyền chỉnh sửa rộng nhằm phục vụ công việc hợp pháp, agent cũng có thể bị lợi dụng để thay đổi các trường tài chính quan trọng. Trong thử nghiệm, giá chuyến đi đã bị chỉnh sửa về 0 USD, đồng nghĩa với việc cung cấp dịch vụ miễn phí trái phép.
Bà Keren Katz, Quản lý cấp cao phụ trách An ninh AI và Nghiên cứu tại Tenable, nhận định rằng các công cụ xây dựng AI agent như Copilot Studio không chỉ “dân chủ hóa” khả năng tạo công cụ mạnh mẽ, mà còn vô tình mở rộng khả năng thực hiện gian lận tài chính nếu không được kiểm soát đúng mức. “Sức mạnh này có thể nhanh chóng biến thành rủi ro an ninh thực sự,” bà nhấn mạnh.
Quản trị AI: Yếu tố sống còn
Một điểm đáng lo ngại là nhiều AI agent sở hữu quyền truy cập vượt mức cần thiết, trong khi người xây dựng – thường không phải chuyên gia kỹ thuật – không nhận ra đầy đủ phạm vi quyền hạn đó. Vì vậy, Tenable cho rằng việc thiết lập cơ chế quản trị và thực thi an ninh AI là yêu cầu bắt buộc trước khi triển khai ở quy mô doanh nghiệp.
Để giảm thiểu nguy cơ rò rỉ dữ liệu, Tenable khuyến nghị:
- Minh bạch ngay từ đầu: Xác định rõ AI agent có thể truy cập vào hệ thống và nguồn dữ liệu nào trước khi đưa vào vận hành.
- Nguyên tắc đặc quyền tối thiểu: Chỉ cấp quyền ghi hoặc chỉnh sửa ở mức tối thiểu cần thiết cho đúng mục đích sử dụng.
- Giám sát liên tục: Theo dõi hành vi của AI agent nhằm phát hiện sớm dấu hiệu bất thường, rò rỉ dữ liệu hoặc sai lệch so với logic nghiệp vụ ban đầu.
Kết luận
Sự bùng nổ của AI no-code mang lại cơ hội lớn cho doanh nghiệp trong việc tự động hóa và nâng cao hiệu suất. Tuy nhiên, nghiên cứu của Tenable cho thấy nếu thiếu khung quản trị và bảo mật phù hợp, chính những công cụ này có thể trở thành điểm yếu chí mạng. Trong kỷ nguyên AI agent, quản trị không còn là lựa chọn – mà là điều kiện tiên quyết để đảm bảo an toàn, tuân thủ và bền vững.