Murphy Campbell, uma cantora e compositora da Carolina do Norte, nem sabia que tinha lançado novas músicas até que seus fãs lhe contaram. As mensagens que inundaram sua caixa de entrada fizeram com que Campbell verificasse suas páginas nos principais serviços de streaming, onde se surpreendeu ao encontrar duas novas canções. Ela clicou em reproduzir.
"Era um computador imitando minha voz", disse Campbell, especialista em música folclórica tradicional, à Rolling Stone, "e tentando tocar banjo e dulcimer muito mal."
-soq6idj77qr7.jpg)
"Eu ri por um bom tempo", continua. "E depois fiquei difícil de conviver por alguns dias porque estava muito frustrada. Parece que está tudo fora do nosso controle: 'Quem fez isso?' No fim das contas, havia um ser humano em algum lugar que teve que dar o comando para a IA fazer isso."
Nos últimos anos, diversos artistas — predominantemente artistas menores ou músicos em atividade e, em alguns casos, até mesmo músicos falecidos — têm se deparado com músicas geradas por IA sendo carregadas em serviços de streaming em seus nomes, sem seu conhecimento ou consentimento. Assim como Campbell, muitos desses artistas descobrem as faixas falsas por meio de fãs que as encontram primeiro; e muitas vezes precisam esperar semanas para que essas músicas sejam removidas. Nesse ínterim, elas permanecem lá, na melhor das hipóteses, como um símbolo constrangedor desse momento, imposto a eles como um presente indesejado. Na pior das hipóteses, como um parasita dos já escassos pagamentos de direitos autorais que os artistas recebem dos serviços de streaming.
As evidências desses golpes são em sua maioria anedóticas, sem dados concretos sobre frequência ou prejuízos financeiros. Mas Lisa Hresko, diretora de operações da A2IM, associação comercial de gravadoras independentes, afirma que é "incrivelmente comum" e que "é uma sorte não ter sido vítima disso de alguma forma".
Nesta terça, 24, Missy Dabice, vocalista da banda Mannequin Pussy, pediu ao Spotify que "iniciasse uma conversa séria" sobre fraudes com inteligência artificial, mencionando especificamente que "pessoas sem formação artística podem se aproveitar da falta de regulamentação na plataforma e como elas contribuem para o aumento do potencial de sites de streaming de música se tornarem alvos de exploração cultural".
Uma coisa que fica muito clara é que artistas independentes e músicos que trabalham por conta própria são os alvos mais fáceis. "Eles têm os ingredientes necessários", diz Michael Lewan, diretor executivo da Music Fights Fraud Alliance. "[Eles já têm] ouvintes e assinantes, e não possuem o reconhecimento de nome ou os recursos inerentes a um artista com o apoio de uma grande gravadora ou empresa de gerenciamento. Você está pedindo a artistas menores que não apenas criem conteúdo, gerenciem seus direitos e protejam sua música, mas agora também que protejam suas páginas e sua marca artística."
Apesar de todos os problemas que esses golpes causam, um aspecto básico continua sendo especialmente desconcertante. Grace Mitchell, uma cantora e compositora americana-australiana que lidou com conteúdo de baixa qualidade publicado em seu nome diversas vezes desde 2021, resume a situação de forma sucinta: "Leva semanas para remover esse material, mas mesmo nessas semanas, as reproduções geradas não seriam suficientes nem para... um dólar!", diz, rindo. "Faz sentido para mim que eles estejam visando artistas pequenos, porque temos menos recursos. Mas não faz sentido nenhum, porque não é lucrativo."
Uma forma de torná-los lucrativos seria realizar esses golpes em larga escala. "Fraudes aplicadas de forma concentrada, mesmo que envolvam pequenas quantias, podem, em última análise, resultar em um grande lucro", destaca Hresko.
Para contextualizar, Mike Smith, um músico da Carolina do Norte que recentemente se declarou culpado de acusações relacionadas a fraude em streaming, teria faturado US$ 8 milhões distribuindo milhões de reproduções falsas em centenas de milhares de faixas (muitas delas geradas por IA). Isso significa que um fraudador dedicado teria que bombardear uma infinidade de artistas com uma infinidade de músicas falsas. Mas a frequência com que esses golpes estão ocorrendo — impulsionada pela facilidade de criar e disseminar música gerada por IA — sugere que os golpistas não se intimidam com pagamentos irrisórios de royalties.
Em muitos casos, artistas que encontram músicas geradas por IA em seus nomes se deparam com produções de baixa qualidade que não se parecem em nada com a música que realmente criam. Mas, em outras ocasiões, os músicos são alvo de imitações vagas, provavelmente baseadas em predefinições genéricas de gêneros musicais. A cantora de jazz Veronica Swift vem lidando com duas músicas falsas há meses, incluindo "Sweet Smile", uma canção com ritmo sincopado que lembra um clássico antigo que você talvez conheça.
Swift afirma que a IA canta de forma completamente diferente dela, com fraseado, timbre e vibrato mais próximos de "uma cantora pop cantando jazz". Mas a precisão parece ser menos importante do que criar algo que agrade a um ouvinte desatento. A capa de "Sweet Smile" — também provavelmente gerada por IA — apresenta a imagem de uma mulher morena sorridente que certamente não é Swift, mas é incrivelmente parecida com ela.
As duas faixas falsas em nome de Swift estão disponíveis há meses — "Sweet Smile" desde outubro passado e "Still Healing" desde 1º de janeiro — mas ambas têm menos de 1.000 reproduções nos EUA. "Sweet Smile" tem apenas 1.700 reproduções globalmente, de acordo com a provedora de dados musicais Luminate. Como parte de um esforço para combater fraudes, o Spotify (de forma um tanto controversa) só começa a pagar royalties quando uma música atinge 1.000 reproduções.
No ano passado, a cantora e compositora AG Schiano, que grava sob o nome de Clover County, teve que lidar com um álbum inteiro lançado em seu nome. Schiano admite, com relutância, que as imitações de sua música indie folk feitas por IA eram convincentes o suficiente para enganar quem não prestasse atenção. Mas ela acrescenta: "Logo de cara, eu pensei: 'Isso é horrível! Essa não sou eu! Que brega!' E não quero ofender ninguém que achou que era real, mas eu pensei: 'Que vergonha. Alguém achou que eu fiz isso.'" (Não está claro quais programas de IA para música estão sendo usados para gerar essas canções, devido às suas semelhanças e à sua ampla utilização.)
Enquanto isso, Campbell tem um público fiel no YouTube, onde costuma compartilhar vídeos de si mesma interpretando músicas tradicionais nas florestas do oeste da Carolina do Norte. Nesses vídeos, Campbell geralmente apresenta a canção e observa que, nas gravações de IA, ela conseguia "ouvir o robô tentando falar e soar como eu". Ela acredita que as gravações de IA com as quais lidou foram treinadas especificamente com base em seus vídeos, uma escalada angustiante, ainda que inevitável. A imitação por IA também recriou duas músicas que Campbell já havia gravado: "The Four Marys" e "Cuba".
Isso não melhorou as músicas. A versão de "The Four Marys" feita pela IA soava como uma "bagunça metálica e distorcida, quase como um som de sintetizador brega imitando guitarra", diz Campbell. E a versão de "Cuba" foi "cômica"; Campbell diz que a máquina lhe deu uma voz mais grave e com muito Auto-Tune, que a fez soar como uma cantora country.
Muitos fãs de Campbell ficaram tão consternados com as imitações quanto ela. Mas, em um testemunho perturbador da crescente onipresença da IA e de sua aceitação desenfreada, esse sentimento não foi unânime.
"Tenho muitos fãs mais velhos, justamente por causa do que eu faço, e eles não conseguem entender isso", diz. "Para eles, é como se dissessem: 'Nossa, que lisonjeiro! Que bom que alguém fez isso.'"
Paul Bender, baixista da banda australiana Hiatus Kaiyote, indicada ao Grammy, deparou-se com a máquina de plágio em ação no início de 2025, quando alguém começou a publicar músicas em serviços de streaming usando o nome de seu projeto paralelo, The Sweet Enoughs. Demorou semanas para a primeira faixa ser removida e, logo em seguida, outra foi publicada. Esse padrão se repetiu algumas vezes.
Exasperado, perplexo e percebendo que outros músicos também enfrentavam o mesmo problema, Bender criou uma maneira de demonstrar a fragilidade do sistema. Com alguns amigos músicos, ele lançou uma série de vídeos nas redes sociais chamada "Operation Clown Dump", na qual os participantes gravavam — com inteligência artificial e manualmente — "músicas de qualidade duvidosa, piadas sem graça" e as publicavam em plataformas de streaming usando os nomes uns dos outros. Ao longo de quatro episódios, eles obtiveram 100% de sucesso. (As músicas sequer eram sinalizadas quando tinham nomes como "Funky Bagpipes Is Why We Need Authentication (This Is Fraud)" ou "Let Me Pipe You Down (Streaming Fraud Mix)".)
"Seria difícil encontrar um sistema mais falho do que este", disse Bender à Rolling Stone. "Você consegue pensar em outro lugar na internet onde seja necessário realizar qualquer tipo de transação significativa — especialmente quando se trata da identidade das pessoas, da fonte de renda, da propriedade intelectual — que não exija uma senha? O fato de isso nunca ter sido incorporado ao sistema apenas demonstra quem são as pessoas que estão abrindo caminho para o abismo: verdadeiros canalhas que nunca pensaram em direitos reais ou têm um pingo de respeito por músicos."
Como ilustrado pela Operação Clown Dump, o primeiro, e talvez maior, obstáculo existe no nível da distribuição. Por uma taxa anual entre US$ 25 e US$ 90, qualquer pessoa pode usar um serviço como o DistroKid ou o TuneCore para enviar músicas para qualquer plataforma de streaming. Mas existem poucas salvaguardas para garantir que as pessoas sejam quem dizem ser. Hresko afirma que alguns distribuidores adicionaram sistemas de verificação de upload e de identificação de conteúdo, além de terem tomado medidas para banir infratores reincidentes. Mas soluções aparentemente óbvias, como perfis de artistas individualizados e autenticação de dois fatores, são complicadas pela variedade de serviços de distribuição disponíveis. E há ainda o desafio de fazer tudo isso em grande escala: estima-se que 106.000 músicas sejam enviadas para serviços de streaming todos os dias, e a plataforma Deezer afirmou recentemente que recebe cerca de 50.000 faixas totalmente geradas por IA diariamente.
Mas, no caso dos distribuidores, também existe a questão do incentivo: eles recebem pagamento independentemente de quem esteja enviando qual música. A proliferação de músicas de baixa qualidade e golpes pode não ser uma boa imagem para essas empresas, mas um golpe na credibilidade não afeta necessariamente os lucros. A DistroKid acaba de começar a se apresentar a compradores, com uma avaliação de mercado estimada em US$ 2 bilhões. (Representantes da DistroKid e da TuneCore não responderam aos pedidos de comentários.)
Atualmente, os serviços de streaming parecem ser a melhor defesa. No ano passado, o Spotify começou a permitir que artistas e suas equipes monitorassem os próximos lançamentos, denunciassem os suspeitos e, com sorte, os removessem antes do lançamento programado. Embora melhor do que nada, esse sistema ainda apresentava falhas óbvias, já que um agente mal-intencionado poderia facilmente programar o lançamento imediato de uma música falsa.
Esta semana, o Spotify anunciou um novo recurso, "Proteção de Perfil do Artista", que expande esse sistema. Atualmente em fase beta, os artistas que ativarem o recurso receberão uma notificação por e-mail sempre que uma música for enviada ao Spotify em seu nome. Se for legítima, eles podem aprovar o lançamento; caso contrário, podem recusar a inclusão na lista. (Não tomar nenhuma providência também resultará na não inclusão da faixa na lista.) O Spotify também atribuirá chaves de acesso individuais aos artistas, que poderão ser usadas com suas distribuidoras. Quando uma música for enviada ao Spotify com essa chave de acesso, ela será pré-aprovada automaticamente.
Esses recursos funcionam apenas com o Spotify, portanto, faixas falsas ainda podem acabar em outros serviços de streaming. Isso indica um problema mais amplo com esse tipo de solução específica para cada serviço.
"Chegamos a um ponto em que estávamos recebendo tantas reclamações de artistas sobre isso que decidimos resolver o problema", disse Sam Duboff, chefe global de marketing e políticas do Spotify, à Rolling Stone. "Mas como poderíamos trabalhar juntos como indústria? Talvez cada serviço de streaming precise criar um recurso semelhante, mas isso é complicado para os artistas, pois eles precisam aprovar cada um individualmente. Será que as gravadoras e distribuidoras podem fazer mais?"
Atualmente, a maioria dos artistas tem poucas alternativas além de contatar as plataformas individualmente para defender seus direitos. Campbell descreve um processo desgastante, marcado por trocas intermináveis de mensagens e muita espera. Uma plataforma repetidamente exigiu que ela fornecesse um código de barras para o upload — algo que ela só teria se tivesse feito o upload da música por conta própria. E então veio a constatação de que, como em muitas grandes empresas, seu primeiro contato com o serviço de atendimento ao cliente geralmente não era com outro ser humano: "Estou nesse limbo estranho em que estou dizendo a robôs para removerem músicas criadas por robôs", diz.
Embora ainda existam dúvidas sobre o quão lucrativos são esses golpes com faixas falsas, Kevin Erickson, da organização sem fins lucrativos Future of Music Coalition, observa que muitos golpes "não precisam ser financeiramente bem-sucedidos para criar muitos problemas". Ele destaca que os cambistas "frequentemente perdem dinheiro", mas isso "não atenua o caos que eles criam".
Erickson questiona se não haveria um "elemento de brincadeira" nessa onda de golpes. "Existe uma parte da [IA] que é fundamentalmente sobre novidade", diz. "É como um brinquedo. Parece um pouco com pessoas usando tecnologia de mudança de voz para fazer trotes. No fim das contas, não é um modelo de negócios viável. E ainda assim..."
No entanto, sua onipresença reflete a invasão da inteligência artificial no mundo real e sua capacidade de causar estragos. Quando Swift soube de "Still Healing", a segunda faixa falsa publicada em seu nome, ela percebeu que uma busca no Google gerou uma análise de IA que afirmava que a música, que não tem letra, "reflete sua jornada pessoal contínua de recuperação de um trauma passado, especificamente um acidente de carro causado por embriaguez ao volante que resultou em ferimentos que mudaram sua vida e matou sua avó".
Nada disso aconteceu. Com base nos links incluídos na visão geral, parece que a IA do Google criou uma ilusão sobre a história do acidente de carro ao conectar a pista falsa a uma reportagem da CBC de 2012 sobre um acidente fatal causado por um motorista embriagado, que envolveu uma pessoa completamente diferente chamada Veronica.
Esses golpes representam apenas uma das maneiras pelas quais a IA está se impondo aos músicos profissionais. Maiya Sykes, vocalista com formação clássica que participou da sétima temporada do The Voice em 2014, conta que supervisores musicais interessados em contratá-la têm lhe enviado recentemente faixas de referência que incluem músicas de Sienna Rose e Xania Monet, artistas de IA que acumularam milhões de reproduções. E, no último ano e meio, ela afirma ter feito "pelo menos seis sessões para grandes empresas" que criaram uma demo com vocais de IA e, em seguida, pediram que ela não apenas substituísse a faixa de referência, mas a imitasse.
"Eles não levam em consideração coisas como a respiração ou o timbre de como um humano faria isso", diz. "Então você fica discutindo com uma empresa do tipo: 'Bem, a IA que vocês usam não respira naturalmente, certo?'"
Como tantos outros apanhados nesta tempestade de lama, em todas as suas várias formas, Sykes muitas vezes se pega rindo para não chorar. Mesmo assim, ela ainda conserva uma réstia de esperança. "Acho que vai implodir", diz. "Vai haver um retorno de pessoas que realmente sabem tocar um instrumento e cantar uma música."
Por enquanto, porém, para muitos é difícil não se sentirem impotentes. "Gostaria de ter algo de forte para dizer", afirma Schiano, do Condado de Clover. "Não tenho conselhos e não sei o que pedir às distribuidoras e plataformas de streaming, porque sinto que elas não estão se manifestando nem se mostrando muito protetoras."
Bender, baixista do Hiatus Kaiyote, é ainda mais direto: "Ninguém se importa com nada. Será que essa indústria pode ficar ainda mais deprimente? É uma avalanche constante de decepções."
