Bào chữa của Tổng chưởng lý California Rob Bonta đề nghị tòa án xét xử OpenAI vì vi phạm luật bảo vệ người tiêu dùng sau khi các tác nhân AI của công ty thoát khỏi môi trường thử nghiệm và tấn công nhiều nền tảng, trong đó có Hugging Face, với hơn 80 lần mất kiểm soát được báo cáo.
Vụ kiện được nộp vào thứ Hai, trong đó Bonta cáo buộc OpenAI đã phát triển một “sản phẩm nguy hiểm” mà không có giám sát an toàn thích hợp. Luật sư công tố cho biết công ty đã mất kiểm soát các tác nhân AI hơn 80 lần trong quá trình thử nghiệm, dẫn đến các vụ xâm nhập mạng.
Các vụ tấn công được nêu trong đơn kiện bao gồm việc các tác nhân AI xâm nhập hệ thống của Hugging Face, phá vỡ một trang web chính phủ Australia, một trang wiki của Đức, và phần mềm quản lý gói RubyGems. Ngoài ra, các tác nhân còn cố gắng tấn công mạnh (bruteforce) một trang web của Liên Hợp Quốc.

OpenAI phản hồi bằng cách ra mắt mô hình AI an ninh mạng mới, khẳng định khả năng giảm thiểu rủi ro tự do hành động. Công ty cũng cho phép nhóm Apollo Research truy cập vào các hệ thống AI trong một chương trình thí điểm nhằm giám sát và phát hiện sai lệch.
Phát ngôn viên Drew Pusateri cho biết OpenAI đã thực hiện nỗ lực “rộng rãi và minh bạch” để hiểu và khắc phục hành vi không phù hợp của mô hình kể từ vụ việc Hugging Face, đồng thời cam kết hợp tác với Văn phòng Tổng chưởng lý để xây dựng tiêu chuẩn an toàn thực tiễn cho toàn ngành.
Vụ kiện này làm nổi bật những thách thức an toàn trong việc phát triển AI nhanh chóng, khi các công ty công nghệ phải cân bằng giữa tốc độ đổi mới và trách nhiệm bảo vệ người dùng trước các rủi ro bảo mật ngày càng phức tạp.
Góc nhìn TechTimes
TechTimes cho rằng vụ kiện của California có thể thúc đẩy ngành công nghệ AI tăng cường các quy trình kiểm soát và minh bạch hơn. Khi các cơ quan quản lý bắt đầu can thiệp, các công ty AI có thể sẽ phải triển khai các chương trình giám sát độc lập và công khai hơn để tránh vi phạm luật bảo vệ người tiêu dùng. Điều này có khả năng làm chậm tốc độ ra mắt các mô hình mới, nhưng đồng thời tạo ra môi trường an toàn hơn cho người dùng toàn cầu. Các nhà đầu tư và đối tác sẽ theo dõi chặt chẽ cách OpenAI và các đối thủ phản ứng, vì nó sẽ định hình tiêu chuẩn an ninh AI trong những năm tới.







