Trí tuệ nhân tạo đã được sử dụng để tạo ra thông tin sai lệch trong nhiều năm, nhưng làn sóng AI mới đã mang lại những tiến bộ mà ít người có thể tưởng tượng được. Những hình ảnh, video và clip âm thanh thuyết phục đều có thể được tạo ra và sử dụng để gây ảnh hưởng hoặc củng cố quan điểm của công chúng.
Một phần của vấn đề là nhiều người không tin tưởng vào những tổ chức có thể xác nhận điều gì đó là giả mạo. Chỉ cần nhìn vào mạng xã hội là có thể thấy hết những cáo buộc về những ảnh hưởng bất chính tại nơi làm việc, cùng với dòng chữ “Tất nhiên là họ muốn bạn tin rằng nó không có thật.” Tình hình càng trở nên tồi tệ hơn khi nhiều người dùng không thể phát hiện ra những hàng giả này.
Hany Farid, một chuyên gia phân tích deepfake và là giáo sư tại Đại học California, Berkeley, nói Bloomberg“Mạng xã hội và con người đã khiến cho ngay cả khi chúng tôi bước vào, kiểm tra thực tế và nói, ‘không, đây là giả’, mọi người nói, ‘Tôi không quan tâm bạn nói gì, điều này phù hợp với thế giới quan của tôi. ‘”
“Tại sao chúng ta lại sống trong thế giới mà thực tế dường như khó nắm bắt đến vậy?” anh ấy nói. “Đó là bởi vì các chính trị gia của chúng ta, các phương tiện truyền thông của chúng ta và Internet đã gây ra sự mất lòng tin.”
Một trong những mối lo ngại lớn nhất về thông tin sai lệch do AI tạo ra là bất cứ điều gì liên quan đến cuộc bầu cử năm tới. Microsoft đã cảnh báo vào tháng trước rằng các đặc vụ Trung Quốc đã sử dụng công nghệ này cho mục đích này, tạo ra hình ảnh và nội dung khác tập trung vào các chủ đề gây chia rẽ chính trị, bao gồm bạo lực súng ống và bôi nhọ các nhân vật và biểu tượng chính trị của Hoa Kỳ.
Cho đến nay, mức độ lan truyền của loại thông tin sai lệch về bầu cử này ở Hoa Kỳ là ở mức tối thiểu, nhưng dự kiến nó sẽ tăng lên. Điều này đặc biệt tệ hại trên X/Twitter, nền tảng mà EU cho rằng là nền tảng chứa thông tin sai lệch tồi tệ nhất; một chỉ định xuất hiện ngay khi X vô hiệu hóa một tính năng cho phép người dùng báo cáo thông tin sai lệch liên quan đến bầu cử.
Cuối cùng, con người thường là trở ngại lớn nhất khi chống lại thông tin sai lệch do AI tạo ra. Nhiều người chia sẻ nội dung này vì đơn giản là họ không biết nó là giả và với việc video và hình ảnh ngày càng trở nên chân thực, thật khó để thuyết phục họ bằng cách khác.