A inteligência artificial deixou de figurar apenas na ficção científica, integrando-se ao cotidiano, especialmente na indústria musical, onde seus efeitos são notáveis. Desde playlists automatizadas a vozes sintéticas de artistas, essa tecnologia gera dilemas éticos, criativos e jurídicos.

É neste contexto de inovação e responsabilidade que se destaca Catharina Dória, uma especialista brasileira em ética da inteligência artificial, amplamente reconhecida por tornar temas complexos compreensíveis ao público. Com mais de 270 mil seguidores nas redes sociais, ela é uma das principais vozes no debate sobre o uso responsável da tecnologia.

O trabalho de um especialista em ética de IA transcende a programação; envolve compreender como a tecnologia é utilizada, quem se beneficia, quem pode ser prejudicado, e que limites devem ser impostos para prevenir danos sociais. Catharina chegou a essa área ao conectar comunicação e tecnologia: estudou comportamento digital, aprendeu a programar e atuou em governança de IA em empresas internacionais. Seu foco, conforme afirma, é assegurar que as decisões sobre o uso da inteligência artificial sejam responsáveis, transparentes e guiadas pelos impactos reais na vida das pessoas.

“Se essas pessoas que têm poder decidirem usar IA de forma irresponsável, isso afeta se teremos empregos ou não. Isso prejudica a compreensão do que é nosso ou não, assim como a forma como nos relacionamos. Portanto, é crucial que as pessoas se preocupem, pois são decisões que influenciam nossas vidas diariamente.”

Em uma entrevista exclusiva para o Mundo da Música, Catharina discute como o avanço da IA está moldando a indústria musical e a importância de artistas, fãs e empresas dialogarem sobre ética, autoria e responsabilidade antes de tocar o próximo play.

A utilização de IA na música e a reação do público

O debate sobre inteligência artificial na música não é recente, mas se reinventa constantemente. Inicialmente, a discussão limitava-se a experimentos curiosos e vozes sintéticas em plataformas; hoje, permeia estratégias de marketing, criação de videoclipes e até a forma como o público se relaciona com o que consome. Cada nova situação traz implicações distintas para artistas, produtores e fãs.

Isso ficou evidente com Taylor Swift, quando vídeos promocionais de seu novo álbum levantaram suspeitas de utilização de IA generativa. O caso provocou um frenesi nas redes sociais, com a hashtag #SwiftiesAgainstAI. Para Catharina Dória, esse episódio revela que o público já reconhece que a arte é, antes de tudo, um ato humano.

“O problema reside na inteligência artificial generativa, que desde o início enfrentou críticas. Trata-se de um compêndio que muitos consideram roubo, contendo artigos, textos, comentários, imagens e desenhos de pessoas que nunca foram creditadas nem remuneradas. Essa IA generativa, basicamente, colagem de várias criações.”

Portanto, segundo ela, a preocupação dos fãs é legítima.

“As pessoas entendem que a música ou o vídeo é uma expressão artística, uma criação humana. Ao tentar eliminar essa parte humana em favor da inteligência artificial generativa, uma celebridade não está respeitando o que o coletivo percebe como arte.”

Catharina ressalta que este não é um debate novo entre artistas e tecnologia, mas que a IA generativa aumenta a complexidade. 

“O que notamos é que as pessoas são conscientes sobre o que é arte. Isso é algo bonito. Elas estão realmente chateadas porque entendem: ‘Arte é uma expressão humana. A arte é feita por pessoas que sentem. A IA não sente.’”

Embora não haja confirmação de que as imagens da campanha de Swift foram geradas por IA, o incidente fomentou um debate global sobre os limites da inovação e autenticidade. Como explica Catharina, a inquietação coletiva sobre o tema é um sinal significativo de maturidade social em relação à tecnologia.

Desafios à autoria e aos direitos dos artistas

Se o caso de Taylor Swift ativou o debate sobre autenticidade, plataformas que prometem gerar músicas em segundos provocaram discussões sobre direitos autorais. Ferramentas como Suno e Udio, que criam faixas inteiras a partir de comandos textuais, têm atraído a atenção de curiosos e criadores ao redor do mundo. Contudo, por trás da aparente democratização do acesso à produção musical, existem cláusulas que transferem a autoria das criações para as próprias empresas.

Para Catharina, isso é tudo, menos democrático.

“É bastante complicado. Começamos a discutir o que é meu e o que é seu. Por exemplo, se a Taylor realmente usou IA para aqueles vídeos, isso significa que o conteúdo não a pertence? Que qualquer um pode reproduzir? Ou o nome dela é suficiente para dizer que aquele conteúdo é ‘dela’? Onde está a autoria? As discussões sobre propriedade começam a surgir.”

A ausência de leis claras e atualizadas mantém o público e os próprios artistas em um limbo jurídico.

“A linha entre o que é e o que não é IA é completamente confusa. E até que exista uma lei de transparência, todos nós ficaremos perdidos tentando entender o que é real.”

A especialista também menciona um ponto que tem gerado desconforto em diversos setores da cultura: o uso da IA para revitalizar artistas já falecidos. Michael Jackson, Tupac Shakur e Robin Williams são exemplos recentes de representações reimaginadas em vídeos gerados por IA.

“Eles merecem dignidade, estejam vivos ou não. O legado deles, as músicas que criaram e a imagem que representam. Portanto, onde estão as leis que protegem os mortos de serem utilizados por IA generativa?”

Essas discussões, de acordo com ela, vão além do aspecto jurídico. Elas incidem sobre ética, respeito e a própria noção de humanidade no processo criativo.

“Tudo isso fala sobre dignidade, respeito e o direito das pessoas sobre suas imagens, suas inteligências e seus intelectos.”

A relevância do letramento e da transparência na era digital

Enquanto a legislação tenta acompanhar as transformações tecnológicas, o público passou a assumir um papel ativo na definição dos limites éticos do uso de inteligência artificial. Para Catharina Dória, o comportamento das pessoas nas redes sociais tem sido um freio às decisões irresponsáveis de empresas e artistas.

“Se o público não fosse tão vocal nas redes, as empresas estariam utilizando muito mais IA sem critério algum. O boicote ao uso irresponsável da IA generativa está restringindo essas empresas, artistas e indivíduos. A legislação brasileira e internacional está muito atrasada.”

“Isso permite que as pessoas compreendam o que está acontecendo e formem coletiva para dizer: ‘Aqui, não’. No fim, é simples: nós pagamos com nossos reais e dólares. Se as empresas agirem como quiserem, o público pode reagir. Isso não depende de lei.”

No entanto, para que o público consiga reagir, é essencial que tenha acesso a informações claras. Catharina defende a implementação imediata de políticas de transparência que obrigam as empresas a revelarem quando e como usam inteligência artificial.

“Precisamos de leis de transparência, e precisávamos delas ontem. Especialmente para marcas. Por exemplo, se um influenciador deve identificar uma publicidade com ‘#publi’, as empresas também deveriam ser obrigadas a informar quando estão utilizando inteligência artificial.”

Essa transparência, segundo ela, é o mínimo necessário para restaurar a confiança entre o público, os criadores e a tecnologia. Somente assim será possível equilibrar inovação e responsabilidade, especialmente na indústria criativa da música.

Os riscos de dependência e o impacto da IA no processo criativo

Mesmo quando empregada de maneira aparentemente inofensiva, a inteligência artificial pode gerar uma dependência sutil. Para Catharina Dória, o uso continuo dessas ferramentas está impactando a maneira como as pessoas pensam, produzem e interactuam com sua própria criatividade.

“Já sabemos que o ChatGPT está viciando as pessoas. Elas respiram e pensam: ‘Vou enviar lá para ver o que ele diz.’ As pessoas estão perdendo a capacidade cognitiva ao usarem o ChatGPT para pensar. Estão tratando-o como terapeuta, como amigo. E isso prejudica as relações interpessoais.”

No campo musical, a lógica é similar. A especialista explica que recorrer à IA para criar harmonias, letras ou melodias pode parecer um atalho, mas, na verdade, limita o aprendizado e a autonomia dos artistas.

“Na música, é a mesma coisa. ‘Por que eu deveria compor este acorde se o Suno pode fazer isso?’ ‘Por que aprender violão se eu posso pedir para a IA?’ Assim, você cessa o aprendizado e se torna dependente da ferramenta para sempre. Isso não é democratização. Para mim, democratização é ter o conhecimento em mente, para usar quando necessário, sem depender de pagamento.”

Catharina ressalta que, embora muitas plataformas promovam a ideia de democratizar o acesso à criação, o efeito tende a ser o oposto.

“As pessoas estão deixando de pensar. Que democratização é essa em que as pessoas se viciam em uma ferramenta que, em breve, terá custos? Não considero isso democrático. Isso é criar dependência em uma população em uma ferramenta que logo será paga. E, se você não paga com dinheiro, paga com seus dados.”

Para Catharina, a verdadeira democratização deve se basear no conhecimento humano e na educação crítica quanto ao uso das tecnologias. No caso da música, isso implica preservar a experiência artística, permitindo espaço para erro, intuição e emoção — elementos que nenhuma máquina pode replicar.

A ética e o pensamento crítico na era da IA

Discutir inteligência artificial, segundo Dória, é abordar poder, responsabilidade e consciência coletiva. Ela acredita que compreender a tecnologia vai além de saber utilizá-la; o verdadeiro desafio reside na formação de uma sociedade que questione o que está por trás de cada ferramenta.

“Pensar em IA é um ato político. E ser letrado não é apenas saber usar o ChatGPT. É entender o que é IA, como foi desenvolvida, por que isso é prejudicial ao planeta e quais debates estão em curso. Isso é letramento.”

A especialista também propõe que criadores, jornalistas, empresas e a sociedade em geral mantenham uma visão crítica sobre as mudanças em andamento. Para ela, o debate ético precisa ser coletivo e constante.

“Não quero ser vista como alguém que possui todas as respostas. Não desejo que as pessoas aceitem tudo o que digo. Quero que elas desenvolvam um pensamento crítico, que questionem: ‘Isso faz sentido para mim?’ Meu objetivo é provocar reflexão. Quando começamos a repetir tudo que os outros dizem, paramos de pensar. Esse é o risco: terceirizar o pensamento a outra pessoa ou a uma máquina.”

Ao longo da conversa, fica claro que a discussão sobre IA não se limita à tecnologia, mas se refere a escolhas humanas. Diante de avanços, incertezas e possibilidades, Catharina sugere algo simples: observar atentamente, formular perguntas e manter em mente a responsabilidade que cada clique acarreta.

Leia mais: