13 das bandas falsas somam quase 5 milhões de ouvintes mensais somente no Spotify; à UBC, plataforma diz estar atuando
Por Ricardo Silva, de São Paulo
Material de divulgação da banda fake The Velvet Sundown, criado por IA assim como suas músicas. Reprodução
Duas denúncias diferentes esta semana abriram a caixa de Pandora das bandas criadas por inteligência artificial e movidas por audições falsas em plataformas como Spotify, Apple Music, Amazon Music e outras. Um problema já bastante conhecido pelo mercado, mas que aparentemente está tão generalizado e fora de controle que acabou disparando todos os alarmes.
O mais recente dos casos foi denunciado no fim de semana, após um perfil no Reddit, uma rede social popular nos Estados Unidos, trazer um caso flagrante de criação por IA. Se trata da suposta banda The Velvet Sundown, que não tem qualquer indício de existência anterior ao início de junho. Não existem fotos ou vídeo ao vivo deles. Nem entrevistas. A citação da “Billboard” que eles usam para se promover nas redes sociais é falsa. E o estilo das capas dos seus dois “álbuns”, “Floating Echoes”, lançado em 5 de junho, e “Dust and Silence”, entregue somente 15 dias depois, é o mesmo, com uma óbvia geração por IA.
Os dois “álbuns”, aliás, somam 26 músicas que, juntas, mal passam de uma hora de duração. Várias dessas faixas, com letras simples e um pastiche de subgêneros do rock de todas as décadas, têm menos de um minuto de duração. No entanto, a banda fake já passa de 630 mil ouvintes mensais só no Spotify. E isso é só a ponta do iceberg. A UBC somou as audições de 13 das bandas que vêm sendo apontadas como criações de IA, e elas têm quase 5 milhões de ouvintes juntas.
Como isso é possível?
O mistério se entende facilmente quando analisamos de perto um dos casos, o da Velvet Sundown. Nos primeiros dias depois da publicação do seu primeiro álbum, esse falso projeto musical teve um número de audições tão elevado e súbito (quase certamente à base de bots, ou programas usados para gerar audições falsas automaticamente) que acabou indo parar nas playlists do Spotify. Eles aparecem nas Descobertas da Semana, lista gerada algoritmicamente pela própria plataforma e que inclui faixas com bom desempenho. O suposto quarteto dos EUA foi parar também em playlists privadas, como Vietnam War. E ganhou até o selo de “artista verificado” do Spotify, além de uma biografia que diz:
"Esta banda de quatro integrantes provoca uma dobradura no tempo, fundindo texturas psicodélicas dos anos 1970 com alt-pop cinematográfico e soul analógico etéreo. Formada pelo vocalista e feiticeiro do mellotron Gabe Farrow, o guitarrista Lennie West, o baixista-alquimista de sintetizadores Milo Rains e o percussionista de espírito livre Orion 'Rio' Del Mar, a banda parece uma alucinação da qual você não vai querer sair.”
Mesmo com a repercussão enorme do caso, o perfil da banda falsa continua no ar na Amazon Music, Apple Music, Deezer, Spotify e YouTube Music, como a UBC pôde comprovar na manhã desta quarta (2). Na Apple, as músicas ganharam inclusive o selo de alta definição, sem perda sonora. No YouTube, os vídeos desse projeto criado por inteligência artificial, subidos em diferentes perfis, já passam de um milhão de visualizações poucas semanas depois de irem ao ar.
VÁRIOS CASOS DIFERENTES
Paralelamente, o jornalista e analista musical Tim Ingham, do site Music Business Worldwide (MBW), publicou na terça-feira (1) uma longa investigação sobre a disparada dos fakes em diversas plataformas, um problema que ele tacha como fora de controle. O foco principal foi colocado sobre um artista específico, Aventhis, um suposto cantor de country alternativo que já tem mais de 1,1 milhão de ouvintes mensais no Spotify.
Detalhe: o artista fake já dispõe de uma playlist oficial, “This Is… Aventhis”, criada pelo próprio Spotify. Apenas uma de suas faixas, “Mercy On My Grave”, ultrapassou 2 milhões de streams.
A confirmação de que Aventhis é um artista fake com reproduções movidas por bots veio de um comentário deixado no YouTube, no qual o próprio criador do canal respondeu:
“A voz e a imagem são criadas com ajuda de IA. As letras são minhas.”
Capa de um dos 'álbuns' do fake Aventhis, que passa de um milhão de ouvintes no Spotify. Reprodução
O provável autor por trás do projeto é David Vieira, creditado como compositor e produtor. Segundo a reportagem do MBW, é bem possível que ele tenha usado plataformas como Suno ou Udio, especializadas em geração musical com base em letras ali inseridas. Essas letras podem ter sido escritas pelo próprio David Vieira ou por plataformas de geração automática como ChatGPT e outras.
A UBC fez um teste e escutou algumas “canções” de Aventhis, cujo perfil ainda está no ar na Deezer, na Apple Music, no Spotify, na Amazon Music e no YouTube Music. As playlists algorítmicas das plataformas logo em seguida sugerem outra banda fictícia de country sombrio: a The Devil Inside, com quase 700 mil ouvintes mensais.
A biografia deste outro grupo diz que eles vêm “das paisagens áridas do sul dos Estados Unidos” e que as músicas são “baseadas em inspiração criativa real, mas os personagens são ilustrativos”. Segundo Ingham, sugestões de audição que vão encadeando faixas criadas por IA revelam algo preocupante: “o Spotify vem promovendo artistas artificiais com naturalidade.”
“Nos últimos dias, vi The Velvet Sundown com mais de 550 mil ouvintes mensais (já são mais de 634 mil), todos recomendados por playlists automatizadas como Discover Weekly”, disse o analista musical, que cita outros casos suspeitos, como o de Nick Hustles, um “crooner IA” de soul setentista com letras deliberadamente ofensivas, que já passa de 220 mil ouvintes mensais e foi promovido até por 50 Cent no Instagram.
Por trás de Hustles está uma (suposta) pessoa chamada Nick Arter, que se define como “compositor, contador de histórias com IA e futurista musical”. Seu canal AI For The Culture no YouTube cria personagens como se fossem raridades do soul vintage — artistas que nunca existiram, mas cuja estética e discografia foram cuidadosamente desenhadas para parecer legítimas.
"Desde que Nick Hustles começou a aparecer no Spotify, ele — ou melhor, Nick Arter — lançou mais de 50 singles", observou Ingham.
O TAMANHO DA FRAUDE
Ao navegar as recomendações algorítmicas do Spotify vinculadas a Nick Hustles, encontram-se outros projetos fake, como Aven (468 mil ouvintes mensais); DV8 (335 mil), The Smoothies (200 mil), Velvet Funk (204 mil), Stellar Cruise (150 mil), What Is? (147 mil), Funkorama (137 mil), Hyperdrive Sound (106 mil) e King Willonius (62 mil). Todos fakes criados por IA, e com lançamentos em cascata, de álbuns inteiros, numa questão de poucas semanas.
Tudo isso levanta um ponto crucial: para onde vai o dinheiro? Quem está lucrando com milhões de plays de músicas que não envolvem músicos reais?
Como sabemos, o pagamento no Spotify e na maioria das plataformas (a Deezer é uma das poucas exceções) utiliza a lógica market-centric, que se baseia num pool de escutas mensais. Todo o bolo de receitas que corresponde aos royalties pagos a gravadoras, editoras, compositores e intérpretes é somado e dividido entre todos deste pool, independentemente de quais artistas um determinado usuário da plataforma tiver ouvido individualmente. O modelo, claro, beneficia quem tiver tido mais escutas dentro do pool. Portanto, artistas que fraudam o sistema, utilizando bots, se colocam numa posição mais alta e ficam com mais dinheiro.
Os quase 5 milhões de ouvintes mensais das 13 bandas fakes sobre a qual estamos falando deram a elas dezenas de milhões de audições totais. Como o preço do stream varia de US$ 0,003 e US$ 0,005, os criadores desses projetos falsos podem ter embolsado, só em junho, várias centenas de milhares de dólares. Um dinheiro que sai do bolso dos artistas reais para ir parar nos dos criadores dos fakes.
Segundo Ingham, a multiplicação dessas fraudes gera um efeito preocupante: o ouvinte começa a duvidar de tudo, até mesmo da veracidade de artistas humanos.
“Aconteceu comigo ao encontrar o duo Sons of Legion, de Nashville (durante as investigações). Pensei: será que são IA também? Só consegui me convencer de que são reais depois de ver vídeos deles falando à câmera nas redes sociais”, contou. “Mas quantos outros artistas falsos estão por aí? Será que as plataformas querem, ou podem, limpar esse tipo de conteúdo? Ou isso vai contra a ideologia tecnológica (ultraliberal) que elas abraçam?”
SPOTIFY RESPONDE
À UBC, Carolina Alzuguir, diretora de música do Spotify, disse claramente que os streams fakes, categoria na qual provavelmente se encaixam os números inchados desses “artistas” criados por IA, são proibidos pelos termos de uso.
“Está expressamente claro. Não pode. A gente recebe muitas denúncias. Quando recebe, investiga e derruba o perfil. Também temos uma equipe que é responsável por monitorar e mitigar tudo o que é feito através de fraude, o que inclui não só streams artificiais, mas também a venda de posição em playlists (jabá). Existe uma equipe do Spotify que trabalha nisso, com muita tecnologia. Sempre foi uma prioridade para a empresa”, ela explicou.
Alzuguir lembrou ainda que, diferentemente do que ocorre na plataforma de vídeos do YouTube ou outras nos quais os usuários podem subir conteúdos sem uma checagem mais profunda para além de ferramentas automatizadas do próprio site, no Spotify há muitos controles, que passam por selos, agregadores digitais e outros atores da indústria. Como uma pessoa não consegue subir diretamente suas músicas às plataformas de streaming de áudio, sempre haverá filtros intermediários. Filtros que, como vemos, também estão falhando.
“Às vezes, as distribuidoras e os selos dizem que fizeram a checagem e nos enviam documentos, entre aspas, comprobatórios. Mas não necessariamente aquilo é real. Acontece, sim, de subirem muito conteúdo inapropriado. Num universo de 100 milhões de músicas (presentes na plataforma), é um trabalho difícil (combater fakes e outras fraudes)”, refletiu a representante do Spotify.
Enquanto as plataformas se debatem em busca de uma solução para um problema exponencial, fica a pergunta: num ambiente onde qualquer artista pode ser inventado, será que o público continuará confiando em vozes que nunca viu ao vivo? Talvez a resposta esteja no lugar mais antigo da música: o palco. Mas, por enquanto, os bots parecem estar levando a melhor nessa “performance”.
LEIA MAIS: Youtubers virtuais, música por IA aos montes: o YouTube 'sem humanos' está chegando?
LEIA MAIS: A quem pertencem os direitos autorais dos 'deepfakes'?
LEIA MAIS: Criadores perderão R$ 64 bi com IA generativa em cinco anos, prevê estudo
English