Điều gì vừa xảy ra? Liên minh Châu Âu đã công bố sáng kiến điều tiết mới nhất của mình, một tổ chức giám sát được thiết kế để mang lại mức độ minh bạch mới cho các công ty CNTT “rất lớn” và các ứng dụng thuật toán thường bí ẩn của họ.
Trung tâm minh bạch thuật toán châu Âu (ECAT) mới được giới thiệu là trung tâm đầu tiên của EU tập trung vào nghiên cứu cách các tập đoàn lớn sử dụng (hoặc lạm dụng) thuật toán để tích lũy tài sản tài chính vô duyên của họ. Làm việc để thực thi các chỉ thị của Đạo luật Dịch vụ Kỹ thuật số (DSA), ECAT sẽ cho các chuyên gia cơ hội xem các thuật toán hoạt động như thế nào và kiểm tra xem các bánh răng bên trong của họ có vi phạm các quy định mới nhất của Châu Âu hay không.
Theo DSA, các nền tảng có hơn 45 triệu người dùng được coi là “Nền tảng trực tuyến rất lớn” hoặc “Công cụ tìm kiếm trực tuyến rất lớn”. Những công ty khổng lồ đang kinh doanh tại thị trường châu Âu hiện được yêu cầu thực hiện các đánh giá hàng năm về cách họ bảo vệ người dùng của mình trước các mối đe dọa trực tuyến, nội dung bất hợp pháp hoặc thông tin sai lệch.
Bắt đầu từ ngày 1 tháng 1 năm 2024, các công ty sẽ phải hoạt động theo cách minh bạch hơn, trình bày chi tiết cách thuật toán của họ hoạt động và cách các sản phẩm trực tuyến của họ cung cấp cho nhà quảng cáo các tính năng nhắm mục tiêu quảng cáo và lập hồ sơ người dùng. Các quan chức ECAT sẽ kiểm tra các thuật toán nói trên để kiểm tra cam kết thực tế của Big Tech về tính minh bạch và bảo vệ người dùng.
DSA là một phản ứng đối với “nhu cầu ngày càng tăng để tiết lộ và hiểu rõ hơn về các công nghệ thúc đẩy các mô hình kinh doanh nền tảng”, ECAT’s trình bày chính thức Những trạng thái. Việc tạo ra ECAT sẽ cho phép châu Âu cải thiện chuyên môn kỹ thuật của mình trong lĩnh vực khoa học dữ liệu và thuật toán. ECAT đang tuyển dụng “các chuyên gia hàng đầu” để hỗ trợ các nhiệm vụ quy định mới và đang hướng tới mục tiêu trở thành “tài liệu tham khảo cho nghiên cứu về tính minh bạch của thuật toán”.
Các hệ thống AI đang phát triển về quy mô và độ phức tạp với tốc độ cực kỳ nhanh, các quan chức EU nói, và nhu cầu điều chỉnh và quản lý các khả năng của AI đang trở thành một vấn đề quan trọng. Tuy nhiên, nhiệm vụ chính của ECAT sẽ không phải là AI, vì các nhà quản lý sẽ dành thời gian thăm dò các thuật toán ẩn sau phương tiện truyền thông xã hội, tìm kiếm trực tuyến, cửa hàng thương mại điện tử, v.v.
ECAT sẽ hợp tác với các nhà khoa học, chuyên gia, đại diện ngành, học viện và tổ chức phi chính phủ để “nâng cao hiểu biết của chúng ta về cách thức hoạt động của các thuật toán”, EU cho biết. ECAT sẽ phân tích tính minh bạch của các công ty, đánh giá rủi ro và cuối cùng đề xuất “các phương pháp tiếp cận minh bạch mới và các phương pháp hay nhất”.
Đối với con voi AI lớn trong phòng, Châu Âu đang tranh luận về một nỗ lực pháp lý khác và khuôn khổ tổng thể được gọi là “Đạo luật AI”.