OpenAI giới thiệu bộ phân loại mới, giảm 48 % các cảnh báo sai và tăng khả năng phát hiện ảnh lạm dụng trẻ em do AI tạo, đồng thời cung cấp truy cập miễn phí cho các tổ chức được kiểm định.
Trong buổi họp báo tại Washington, D.C., OpenAI công bố một bộ phân loại mới nhằm nhận diện nội dung lạm dụng trẻ em (CSAM) được tạo ra bằng công nghệ trí tuệ nhân tạo.
Công ty sẽ cho phép các tổ chức phi lợi nhuận và cơ quan thực thi pháp luật đã được kiểm định truy cập miễn phí, đồng thời cung cấp hướng dẫn kỹ thuật cho nhà phát triển muốn phát hiện CSAM tổng hợp.

OpenAI cho biết bộ phân loại mới giảm 48 % các cảnh báo sai so với hệ thống trước, giúp giảm gánh nặng cho những người kiểm duyệt.
Các hình ảnh được đánh dấu bởi mô hình có khả năng chứa nội dung xâm hại gấp đôi so với các cảnh báo trước, dựa trên các thử nghiệm nội bộ.
Đây là lần đầu tiên công cụ có nhãn riêng để phân biệt giữa ảnh của trẻ thực và ảnh do AI tạo, hỗ trợ điều tra ưu tiên các trường hợp nghiêm trọng.
Kết quả sơ bộ cho thấy việc giảm nhiễu có thể rút ngắn thời gian NCMEC và các cơ quan đối tác dành cho việc sàng lọc báo cáo, mặc dù bộ phân loại vẫn đang được thử nghiệm trong môi trường thực tế.
Dòng báo cáo của Trung tâm Thiếu nhi mất tích & Bị lạm dụng (CyberTipline) nhận được 400.000 báo cáo liên quan đến CSAM do AI tạo trong năm 2025, tăng mạnh so với 67.000 báo cáo năm 2024, một mức tăng mà các quan chức mô tả là “bùng nổ”.
Tổng chưởng lý bang North Carolina Jeff Jackson cảnh báo rằng nếu xu hướng này tiếp tục, khả năng thực hiện sứ mệnh của CyberTipline sẽ bị suy giảm, trong khi Quốc hội đang xem xét các quy định nghiêm hơn như Đạo luật Take It Down.
OpenAI cập nhật ChatGPT với cảnh báo khi người dùng yêu cầu nội dung bị cấm, sau đó sẽ tạm ngưng tài khoản trong 24 giờ cho lần vi phạm đầu tiên.
Khoảng thời gian tạm ngưng kèm theo liên kết tới nguồn trợ giúp, và công ty khẳng định sẽ báo cáo mọi trường hợp CSAM cho NCMEC như một phần của chiến lược giảm thiểu tổng thể.
Góc nhìn TechTimes
TechTimes cho rằng bộ phân loại của OpenAI là bước tiến quan trọng trong việc kiểm soát lượng lớn CSAM do AI tạo, một thách thức đang làm quá tải các đường dây nóng bảo vệ trẻ em. Khi giảm 48 % các cảnh báo sai và cung cấp nhãn riêng cho nội dung tổng hợp, công cụ có thể giúp các tổ chức và cơ quan thực thi pháp luật triệt tiêu nhanh hơn các trường hợp nguy hiểm. Tuy nhiên, hiệu quả thực tế sẽ phụ thuộc vào mức độ chấp nhận rộng rãi của các nền tảng và tổ chức phi lợi nhuận, cũng như áp lực pháp lý tiếp tục buộc các công ty AI tuân thủ các tiêu chuẩn báo cáo. Đây cũng là dấu hiệu cho thấy các công ty AI bắt đầu chia sẻ công nghệ giảm hại thay vì chỉ bảo vệ mô hình của mình, mở ra xu hướng hợp tác mới giữa ngành và cơ quan quản lý.







