Nhà Trắng đã lên tiếng để ngăn chặn sự lạm dụng AI tạo ra những hình ảnh khiêu dâm giả mạo về các nghệ sĩ nổi tiếng, như ca sĩ Taylor Swift.
Theo đó, Nhà Trắng đã lên tiếng yêu cầu Quốc hội Mỹ hành động để ngăn chặn sự lạm dụng của công nghệ trí tuệ nhân tạo (AI) trong việc tạo ra những hình ảnh khiêu dâm giả mạo về các nghệ sĩ nổi tiếng, như ca sĩ Taylor Swift.
Bà Karine Jean-Pierre, Thư ký báo chí của Nhà Trắng, đã bày tỏ quan ngại về việc những hình ảnh khiêu dâm do AI tạo ra về Taylor Swift đang được phổ biến trên các nền tảng mạng xã hội. Bà cho biết Nhà Trắng sẽ làm mọi cách để đối phó với vấn đề này và kêu gọi Quốc hội Mỹ ban hành các luật lệ mới để bảo vệ quyền riêng tư và danh dự của người dân.
Bà Jean-Pierre cũng yêu cầu các nền tảng mạng xã hội thực thi nghiêm ngặt các quy định để ngăn chặn sự lan truyền của những nội dung sai lệch này, đặc biệt là đối với phụ nữ, người thường bị ảnh hưởng nặng nề nhất bởi những hình ảnh giả mạo.
Vụ việc này bắt đầu từ khi một loạt hình ảnh deepfake khiêu dâm của Taylor Swift được đăng tải trên nền tảng X với gần 50 triệu lượt xem. Những hình ảnh này được cho là do một mô hình AI có tên là Stable Diffusion tạo ra, và có thể truy cập thông qua hơn 100.000 ứng dụng và công cụ trực tuyến.
Sau khi những hình ảnh này bị khóa trên X, chúng đã được chuyển sang các nền tảng khác. Từ khóa “Taylor Swift AI” cũng đã trở thành xu hướng tìm kiếm trên mạng xã hội vào ngày 25.1 (theo giờ Mỹ).
Người hâm mộ của Taylor Swift đã tỏ ra phẫn nộ và ủng hộ thần tượng bằng cách đăng những hình ảnh thật của cô với hashtag “ProtectTaylor Swift” (bảo vệ Taylor Swift).
Theo Daily Mail, Taylor Swift đang xem xét khả năng khởi kiện trang web deepfake đã tạo ra những hình ảnh phản cảm về cô. Trước đó, từ năm 2011, Taylor Swift đã từng cảnh báo các fan về những hình ảnh ngực trần và khiêu dâm khác có lồng ghép gương mặt của cô.
Deepfake là một thuật ngữ chỉ việc sử dụng AI để nghiên cứu và tạo ra những hình ảnh giả mạo về một người, bằng cách thay thế gương mặt của họ vào trong những video mà họ không có mặt. Những hình ảnh này thường rất chân thực và có thể gây nhầm lẫn cho người xem.
Sam Gregory, Giám đốc điều hành của một tổ chức bảo vệ nhân quyền tại Anh, đã bày tỏ lo ngại về việc nhiều phụ nữ bị làm nhục bởi những video deepfake. Ông cũng cảnh báo về nguy cơ mất niềm tin vào những nội dung trực tuyến, khi mà video thật có thể bị coi là giả, và video giả có thể bị coi là thật.