Các bài hát mới của các nghệ sĩ nổi tiếng đang lan truyền trên mạng xã hội, điều này thường không phải là vấn đề, ngoại trừ trường hợp người hát nhái giọng. Mặc dù nó là một trong những phương tiện cuối cùng tồn tại, nhưng âm nhạc deepfake giờ đây đã trở thành hiện thực.
Nó hoạt động bằng cách đào tạo một mô hình AI dựa trên giọng ca sĩ và kết quả không phải lúc nào cũng tệ. Có rất nhiều sự sáng tạo thực sự trong việc tạo ra các bài hát deepfake, nhưng vấn đề không chỉ nằm ở đầu ra. Trong nhiều trường hợp, sự cho phép không được cấp và các câu hỏi về việc ai được trả tiền và liệu điều đó có hợp đạo đức hay không, chỉ là một số vấn đề của nhạc deepfake.
1. Bộ dữ liệu trái phép
Nếu muốn tạo một bản nhạc deepfake của một nghệ sĩ nổi tiếng, bạn cần tập hợp các tệp âm thanh giọng hát của họ vào một bộ dữ liệu. Giống như bất kỳ dữ liệu nào thuộc về ai đó, có lẽ bạn nên xin phép họ để sử dụng dữ liệu đó, nhưng một bài hát deepfake có thể xuất hiện trên một nền tảng âm nhạc lớn như YouTube, Spotify hoặc TikTok bằng cách sử dụng một tập dữ liệu trái phép.
Điều này đã xảy ra với các nghệ sĩ Drake và The Weeknd khi một người dùng có tên Ghostwriter tạo ra “Heart on My Sleeve”. Bản hit có giọng hát của các nghệ sĩ được tổng hợp bằng AI, hoàn chỉnh với lời bài hát nói về bạn gái cũ của The Weeknd.
Bài hát đã được người hâm mộ thực sự yêu thích, với những lời khen ngợi dành cho Ghostwriter vì đã sử dụng giọng hát deepfake một cách sáng tạo, nhưng như Thời báo Seattle đưa tin, không phải ai cũng nhìn thấy nó theo cách đó. Người phát ngôn của Universal Music Group, nhãn hiệu chính đằng sau cả hai nghệ sĩ, hỏi:
“Các bên liên quan trong hệ sinh thái âm nhạc muốn đứng về phía nào trong lịch sử: phía của nghệ sĩ, người hâm mộ và sự thể hiện sáng tạo của con người, hay phía của những kẻ giả mạo sâu sắc, gian lận và từ chối bồi thường xứng đáng cho các nghệ sĩ?”
2. Luật bản quyền lỗi thời
Nếu bạn là một nghệ sĩ không muốn giọng hát của mình bị sao chép, luật bản quyền có thể chưa giúp được gì cho bạn. Vì luật bản quyền của chúng ta được viết vào thời điểm loại công nghệ AI này chưa tồn tại nên không có gì ngạc nhiên khi luật vẫn đang cố gắng bắt kịp.
Trường hợp pháp lý gần nhất về “đánh cắp giọng nói” ở Mỹ bắt đầu từ những năm 1990. BẰNG báo Los Angeles Times đưa tinca sĩ Tom Waits đã giành được khoản tiền bồi thường 2,475 triệu USD từ Frito-Lay Inc., gã khổng lồ chip hùng mạnh đứng sau Doritos, Cheetos, Cracker Jack’s, v.v.
Quảng cáo đã sử dụng giọng nói của một người nào đó nghe khá gần với Tom Waits để mọi người có thể tin rằng nghệ sĩ thực sự đứng đằng sau chiến dịch quảng cáo. Điều tương tự cũng có thể xảy ra với các bài hát deepfake hiện đang được lưu hành, nhưng âm nhạc AI vẫn chưa được thử nghiệm trong một cuộc chiến pháp lý.
Khi chúng ta chờ hệ thống pháp luật cập nhật, điều đáng chú ý là không phải ai cũng gặp vấn đề với việc nhân bản giọng nói của họ, hãy Holly Herndon, Ví dụ. Đối mặt với làn sóng ứng dụng âm nhạc AI đang đến, cô ấy đã chọn ủy quyền cho người song sinh giọng hát của mình có tên là Holly+ cùng với một hệ thống mang lại cho cô ấy mức thù lao hợp lý.
Dù bạn đứng về phía nào, vấn đề vẫn không thay đổi. Không có luật bản quyền cụ thể nào nói rằng bạn cần xin phép nghệ sĩ trước khi sử dụng giọng nói của họ. Cho đến lúc đó, các nghệ sĩ có thể thấy mình ở miền tây hoang dã của công nghệ AI, không có luật nào hướng dẫn họ.
3. Ai được trả tiền?
Có thể kiếm tiền từ âm nhạc bằng giọng nói của ai đó không? Đó là một câu hỏi hóc búa có thể trở thành một vấn đề lớn hơn khi ngày càng có nhiều nhạc deepfake được xuất bản trên các nền tảng phát trực tuyến và kiếm tiền trên các nền tảng mạng xã hội.
Như chúng ta đã biết, việc hát lại một bài hát nổi tiếng và đăng lên YouTube hoặc Spotify là hoàn toàn bình thường, và trong trường hợp đó, những thứ như lời bài hát, cấu trúc bài hát, giai điệu, nhịp điệu, v.v. đều bị sao chép. Nhưng bản sao giọng hát thì hoàn toàn khác và nhạc deepfake không phải là hát chính xác một bài hát hiện có mà tạo ra một bài hát hoàn toàn mới bằng giọng của người khác.
Nói cách khác, bản sao giọng nói sẽ không tồn tại nếu không có các công cụ AI và bộ dữ liệu trái phép. Các nghệ sĩ dành cả cuộc đời để mài giũa giọng nói bẩm sinh của họ và tạo ra âm thanh độc đáo. Đánh cắp giọng nói của ai đó và kiếm tiền từ nó có thể là một bước đi quá xa.
4. Một thể loại vùng xám
Để làm phức tạp thêm mọi thứ, một số người có thể không coi nhạc deepfake là hoàn toàn xấu. Không giống như các hình ảnh hoặc video deepfake mà bạn có thể bật cười trước khi lướt qua trên điện thoại của mình, nhạc deepfake đang hướng tới một thể loại của riêng nó.
Một số người so sánh nó với ý tưởng viết truyện hư cấu, một cách thú vị và sáng tạo để bày tỏ lòng kính trọng đối với một nghệ sĩ. Đó là một quan điểm tích cực hơn khiến khó có thể loại trừ âm nhạc deepfake đơn giản là điều cấm kỵ. Chỉ cần xem cách tiếp cận của Holly Herndon đối với nhân bản giọng nói AI trong video dưới đây.
Mặc dù không phải ai cũng đồng ý rằng loại nhạc này nên được cho phép. BẰNG Thời báo Tài chính viết, hãng thu âm lớn, Universal Music Group, nhằm mục đích loại bỏ các bài hát chất lượng thấp hơn khỏi các nền tảng phát trực tuyến, bao gồm cả những bài hát do AI tạo ra. Cuối cùng, các nền tảng phát trực tuyến như Spotify, Apple Music hoặc Tidal sẽ phải đưa ra quyết định về việc có cho phép thể loại nhạc này trên nền tảng của mình hay không.
Âm nhạc Deepfake đang châm ngòi cho những cuộc tranh luận tương tự đã xảy ra trong thế giới nghệ thuật: nghệ thuật do AI tạo ra có nên được coi là nghệ thuật không? Chỉ bây giờ, chúng ta đang đặt câu hỏi về âm nhạc AI.
5. Mối quan tâm về đạo đức xung quanh chủng tộc và bản sắc
Kỷ nguyên của nhạc deepfake đã bắt đầu với rất nhiều bản nhạc bắt chước nhạc rap. Với nguồn gốc lịch sử của thể loại này bắt nguồn từ những thanh niên người Mỹ gốc Phi lớn lên ở Bronx, Thành phố New York, vào đầu những năm 1970, một số người lo ngại về chủng tộc và bản sắc trong âm nhạc AI.
nhà văn Lauren Chanel, là một người nhận thấy nhạc deepfake là một vấn đề nghiêm trọng. Như được trích dẫn trong một bài báo của New York Timeshọ giải thích:
“Đó là một cách khác để những người không phải Da đen mặc trang phục của một người Da đen – giơ tay đỡ Kanye hoặc Drake và biến anh ta thành con rối – và điều đó khiến tôi đáng báo động.” “Đây chỉ là một ví dụ khác trong hàng dài những người đánh giá thấp những gì cần thiết để tạo ra loại hình nghệ thuật mà trong lịch sử, người Da đen đã tạo ra.”
Đây không phải là lần đầu tiên âm nhạc được tạo ra bằng các công cụ AI không phù hợp với đạo đức. BẰNG đưa tin trên tạp chí Rolling Stonemột rapper ảo tên là FN Meka đã được ký hợp đồng với một hãng, sau đó nhanh chóng bị loại bỏ khi nhóm dân quyền trực tuyến Industry Blackout viết rằng dự án đã duy trì “những định kiến thô thiển” về văn hóa Quay lại.
Nếu có bất cứ điều gì, nhạc deepfake nhắc nhở chúng ta rằng không thể tách rời các công cụ AI khỏi lịch sử tạo nhạc và việc bỏ qua điều đó sẽ làm tăng thêm sự nguy hiểm của các tác phẩm deepfake AI.
6. Gây hại cho nghệ sĩ
Một điều không nên bỏ qua là tác động cảm xúc mà một bài hát deepfake có thể gây ra cho nghệ sĩ, đặc biệt là khi một bản sao giọng hát có thể hát về những tình huống chưa từng xảy ra, bày tỏ cảm xúc không phải của chính họ và giả vờ quan tâm đến những điều họ có thể không.
Trong trường hợp bài hát giả mạo Drake ft. The Weeknd, lời bài hát bao gồm những dòng về Selena Gomez, người từng hẹn hò với The Weeknd. Sử dụng sự kết hợp giữa các sự kiện thực tế và lời bài hát bịa đặt, đó là một sự bóp méo thực tế kỳ lạ có thể gây hại cho nghệ sĩ sống qua trải nghiệm thực tế.
Tương tự, việc sản xuất lời bài hát do AI tạo “theo phong cách” của một người nổi tiếng sử dụng trình tạo văn bản AI đã khiến một số nghệ sĩ thất vọng về việc sử dụng công nghệ AI. Như Nick Cave đã nói“ChatGPT là gì, trong trường hợp này, là sao chép như một trò hề.”
Âm nhạc Deepfake có khả năng đưa vào miệng nghệ sĩ những từ mà họ chưa bao giờ nói, hoặc trong trường hợp này là hát. Ở cấp độ cá nhân, điều này có thể gây tổn hại cho nghệ sĩ, những người có ít quyền kiểm soát trong việc xóa nội dung mà không khởi kiện ra tòa.
Chuẩn bị cho những thay đổi đối với ngành công nghiệp âm nhạc
Nhờ khả năng tiếp cận các công cụ AI ngày càng tăng, âm nhạc đã bước vào thế giới của deepfakes, đặc biệt là thông qua các bản sao giọng nói. Rất khó để phân biệt sự khác biệt giữa giọng nói của AI và giọng nói của con người chỉ bằng cách nghe, điều này khiến một bài hát deepfake dễ dàng tiếp cận các nền tảng phát trực tuyến trước khi bị xóa.
Một mặt, người hâm mộ có thể thưởng thức nhạc deepfake và một thể loại hợp lệ có thể xuất hiện sử dụng những giọng ca nổi tiếng để tạo ra âm nhạc mới và thú vị. Nhưng không phải nghệ sĩ nào cũng đồng ý với việc nhân bản giọng nói của họ và không có luật nào ngăn mọi người tạo bộ dữ liệu trái phép.
Nhận được sự đồng ý, bồi thường cho nghệ sĩ và xem xét các vấn đề đạo đức chỉ là một số vấn đề mà nghệ sĩ và ngành công nghiệp âm nhạc phải đối mặt. Với sự phát triển nhanh chóng của công nghệ AI, thật đáng để tạm dừng để suy ngẫm về những vấn đề mà chúng đã tạo ra.