Dani Ribas abre debate sobre aspectos positivos e negativos desta tecnologia de IA na música, tema que ocupará o site da UBC toda a semana
O uso de algoritmos de recomendação nas plataformas de streaming é um tema tão polêmico quanto pouco conhecido em detalhes, mesmo entre especialistas no mercado musical. Embora muitos defendam que houve uma democratização sem precedentes no acesso à música nova com a difusão dessa tecnologia de inteligência artificial — baseada num complexo sistema de classificação de usuários para sugerir a música "certa" à pessoa "certa" —, também são vários os críticos do método, por verem um enviesamento nos algoritmos, que, controlados pelas big techs, utilizariam critérios econômicos nas recomendações e manteriam as pessoas em suas "bolhas", sem oferecer de fato novidades.
As reações — de um lado e de outro da discussão — depois da publicação, na última edição da Revista UBC, de uma matéria sobre o tema nos levaram a ampliar o debate e convidar mais especialistas para detalhar sua visão. Os textos serão publicados em sequência ao longo desta semana, e quem abre o debate é Dani Ribas, doutora em sociologia pela Unicamp, criadora da Sonar Cultural Consultoria e do método ID_MUSIQUE - Fanbase além do algoritmo, que em 2021 ganhou o prêmio Inovação Empresarial FFC.
Algoritmos de recomendação: um copo d’água turva meio cheio e meio vazio
Por Dani Ribas, de São Paulo*
Dani Ribas. Crédito: Patrícia Soransso
O uso massivo dos algoritmos a partir dos anos 2000 trouxe inúmeras mudanças em muitos aspectos das nossas vidas. Essas mudanças são extremamente significativas e devem ser analisadas em toda a sua complexidade.
Há de se reconhecer os pontos positivos trazidos pelas plataformas de recomendação algorítmica como as mídias sociais e as plataformas de streaming. O principal ponto positivo é a possibilidade de distribuição de música nas plataformas, o que não era possível antes de 2008 — e isso trouxe novas empresas, como agregadores, estimulando toda a cadeia produtiva da música que não andava nada bem. Outro ponto positivo são as ferramentas de marketing que permitem aos artistas fazer sua própria publicidade online orientados por dados de alcance e engajamento, sem ter que gastar uma fortuna comprando espaço publicitário na televisão, por exemplo.
LEIA MAIS: UBC realiza workshop sobre inteligência artificial, inovação e tecnologia
Há mais dados do que nunca, e as plataformas de recomendação algorítmica trouxeram essa possibilidade para as campanhas de marketing digital. Ponto positivo pros algoritmos. Mas infelizmente essa é só parte da questão.
A outra parte é que, apesar de haver espaço para todos, nem todos vão chegar “lá”, no mesmo lugar de “sucesso”, influência e relevância. Isso porque o ambiente digital hoje tem uma estrutura e um modelo de negócios (baseado na Economia da Atenção, na venda de publicidade online e no extrativismo de dados) que causam assimetrias à esfera pública, à coletividade. O ambiente digital era para ser, segundo os criadores da internet, uma espécie de praça pública em que todos poderiam falar com todos de maneira horizontal, sem hierarquias. Mas hoje esse ambiente se parece com um corredor estreito em que os porteiros são as Big Techs, que controlam os algoritmos e o tráfego da internet.
Individualmente, é uma transformação positiva, ao menos economicamente, se você é um dos que atravessaram o corredor estreito e ganharam influência nas redes e plataformas por causa da entrega dos algoritmos. Mas, coletivamente, os algoritmos causam danos quando há, por exemplo, o chamado “preconceito algorítmico”, ou quando as recomendações só reforçam pontos de vista já consolidados — o chamado viés de confirmação ou “bolhas” — que limitam a diversidade de ideias e desembocam em extremismos. Já vimos esse filme nas eleições. Isso sem falar da saúde mental dos criadores de conteúdo, da Sociedade do Cansaço (conceito do filósofo sul coreano Byung-Chul Han, professor na Universidade de Berlim), da competição por produtividade, aspectos que relativizam os impactos positivos da chegada dos algoritmos.
E é por “haver espaço para todos” que há muita gente sonhando com influência — e também muita gente explorando esse sonho e vendendo a “fórmula da influência” por meio das redes sociais. Virou um negócio explorar esse sonho. Você já deve ter se deparado com gente vendendo essas “fórmulas mágicas” da produção de conteúdo, dizendo que só não é bem-sucedido na música quem não trabalha duro.
O que está por trás do ponto de vista entusiasta sobre os algoritmos é o discurso meritocrático, que diz que, se você não tem influência na internet, a culpa é toda sua, não do modelo de negócio das Big Techs.
No entanto, entendo que não se pode abrir mão de uma visão global sobre as mudanças trazidas pelos algoritmos, que compreenda tanto seus aspectos positivos como os negativos, e como eles se inter-relacionam. Não reconhecer e não querer debater coletivamente os aspectos negativos leva a uma postura parcial, deslumbrada e ingênua em relação ao ambiente digital.
Fiz recentemente um post, e o retomo aqui para fazer uma analogia que demonstra como podemos aprender com a história para lidar com esse “novo mundo algorítmico”.
“O problema não é o algoritmo. O problema é o modelo de negócio das plataformas que usam algoritmos. Nesse modelo, nós somos explorados como mercadorias da pior forma: o modelo explora nossas suscetibilidades, nossas vulnerabilidades, nossas emoções, nossa subjetividade, nossos vieses cognitivos. Há quem pense que esse mundo é só de oportunidades, mas há quem pense que, além delas, há um novo mundo que se assemelha à revolução industrial (que, antes de trazer bem-estar social, trouxe exploração humana ao extremo). Por isso, é necessário controle social - melhor que regulação.”
As críticas às máquinas da Revolução Industrial do século XVIII na Europa, e as lutas coletivas de trabalhadores por melhores condições de trabalho, deram origem às legislações e regulamentações de que usufruímos hoje (por exemplo, jornada semanal de 40h de trabalho, proibição de trabalho infantil, descanso semanal remunerado, férias, entidades representativas de classe, previdência social e o direito à aposentadoria etc). Você pode até questionar esses direitos hoje (eu luto para que eles continuem existindo), mas o fato é que toda a sociedade se beneficiou da legislação trabalhista que colocou limites à sanha exploratória dos industriais dos séculos XVIII, XIX e XX. O caminho até aqui foi longo e tem muitas similaridades com o mundo atual. A diferença é a tecnologia. Tem que funcionar para todos. Ou jogamos todos, ou rasgamos o baralho — vi isso pichado num muro em Barcelona e levo para a vida.
A comparação com a Revolução Industrial é usada por Shoshanna Zuboff, autora de “A Era do Capitalismo de Vigilância: a luta por um futuro humano na nova fronteira de poder,” professora emérita da Cadeira Charles Edward Wilson na Harvard Business School. Para ela, o capitalismo de vigilância está em vias de dominar a ordem social e moldar o futuro digital, mas enfrenta pouca resistência por parte da lei e da sociedade.
Um grande volume de riqueza e poder vem sendo acumulado em sinistros “mercados futuros comportamentais”, nos quais os dados que deixamos nas redes são negociados sem o nosso consentimento, e a produção de bens e serviços segue a lógica de novas “formas de modificação de comportamento”. Dessa forma, uma arquitetura global de modificação comportamental ameaça impactar a humanidade no século XXI de forma tão radical quanto o capitalismo industrial desfigurou o mundo natural no século XX.
Ilustração vetorial que sintetiza o método de classificação por algoritmos: critérios neutros ou enviesados? Crédito: Askhat Gilyakhov/Shutterstock
Para ficar nas referências femininas, destaco aqui mais uma mulher que se dedica a essas questões. Para Cathy O’Neil (autora de “Weapons of Math Destruction”), algoritmos não tornam as coisas mais justas. Eles repetem coisas do passado e automatizam o status quo. Algoritmos são opiniões embutidas num código. As pessoas acreditam que algoritmos são objetivos, verdadeiros e científicos, mas isso é pura jogada de marketing do Vale do Silício.
Algoritmos têm uma influência enorme sobre a cultura, a política e na sociedade como um todo. É justo que eles continuem sendo um segredo? Antes da regulação das plataformas deve haver transparência nos critérios usados para a distribuição de conteúdos, além de participação da sociedade no debate sobre as consequências da enorme influência dos algoritmos na nossa vida.
O mundo é complexo, e não é unívoco, todas as opiniões e perspectivas cabem nele. Existem pontos de vista diferentes, ainda bem! Como socióloga, minha perspectiva sempre será crítica. Essa é minha profissão. A sociologia nos ajuda a “desver” o mundo, assim como Manoel de Barros diria sobre a poesia.
Só não podemos ignorar que, apesar de todas as possibilidades trazidas pelo uso massivo de algoritmos na difusão de conteúdos culturais, há consequências muito negativas pra muitas pessoas, tanto individualmente como para a sociedade em geral. Não se pode ignorar isso — e por isso as perspectivas críticas são necessárias, mesmo que você não concorde com elas, pois é só o embate de ideias que faz com que tenhamos uma visão menos enviesada sobre qualquer tema, e que direitos básicos sejam garantidos.
Há um debate hoje sobre a "liberdade cognitiva": o direito humano de ter controle sobre o próprio cérebro e as experiências mentais às quais ele é submetido. Atualmente, como diz a pesquisadora Fernanda Bruno, vivemos numa Economia Psíquica dos Algoritmos (“A economia psíquica dos algoritmos: quando o laboratório é o mundo” | Nexo Jornal), em que estamos permanentemente num laboratório como cobaias para o extrativismo de dados, mas não fomos avisados da experiência. Mais ou menos como no filme “O show de Truman”, estrelado por Jim Carrey.
Não há respostas fáceis para questões complexas. As relações são contraditórias. O copo está meio cheio e meio vazio, ao mesmo tempo. E a água nele está muito longe de ser transparente. Temos que lutar por mais transparência, para que o ambiente digital funcione para todos, e não seja apenas o campo extrativista das Big Techs. E ignorar a complexidade dessa questão paradoxal é ingenuidade. Equivale a reduzir a complexidade do mundo apenas a uma única visão deslumbrada sobre ele, que toma a parte positiva pelo todo.
*Dani Ribas (Sonar Cultural Consultoria) é doutora em sociologia pela Unicamp e, a partir de sua tese, criou o método ID_MUSIQUE - Fanbase além do algoritmo, que em 2021, ganhou o prêmio Inovação Empresarial FFC. Em 2022, foi mentora convidada da WOMEX, e ganhou o prêmio WME na categoria Profissional do Ano. Em 2023, ganhou o Prêmio Profissionais da Música na categoria Projeto de Pesquisa: Techs, Algoritmos e Segmentação de Público. Foi consultora da Unesco e do Mercosul cultural, pesquisadora do CPF-SESC SP, diretora de pesquisa do DATA SIM e fez pesquisa em Economia Criativa para o Ipea. É professora de music business em diversas instituições.
LEIA MAIS: AI ou A&R? Eis a questão na indústria musical
LEIA OS OUTROS ARTIGOS:
Algoritmos de recomendação: Por que não olhá-los com lentes do passado, por Luiz Eduardo Garcia
Algoritmos de recomendação: Tem que 'gostar' deles para usá-los a seu favor, por Dani Faria
Algoritmos de recomendação: Como não amá-los?, por Clemente Magalhães
Algoritmos de recomendação: Que tal uma pausa para contemplar e refletir?, por João Marcello Bôscoli
English