Recentemente, a influenciadora Natalia Beauty foi estopim de uma discussão sobre o uso indiscriminado de IA para a produção de conteúdo. Natalia, que tem uma coluna de opinião no jornal Folha de São Paulo, admitiu que usava Inteligência Artificial para criar seus artigos. O uso de IA não é proibido pelo jornal, mas foi feito sem transparência (ela nunca falou sobre usar IA até ser questionada) e levantou questões sobre até que ponto um robô pode ser usado para criar, por exemplo, um artigo de opinião assinado por um humano. 

Para investigar como funcionam os modelos de linguagem em larga escala (LLMs, na sigla em inglês) — como os chatbots de IA — e quais são seus impactos na produção de narrativas que pautam o debate público e a vida cotidiana, os pesquisadores Sushila Vieira Claro, doutora em Educação, Linguagem e Psicologia pela Faculdade de Educação da USP, Vinícius Sarralheiro, doutorando pelo Programa de Pós Graduação em Ciências da Comunicação (PPGCOM) e Acácio Vinicius Bianchi, graduando em Relações Públicas pela ECA, realizaram a pesquisa que resultou no artigo Modelos de Linguagem de Grande Porte e Comunicação: potências, limites e disputas informacionais na era da IA, publicado na última edição da Revista Interfaces da Comunicação.

Como funcionam os LLMs e como eles mudam a produção de conteúdo?

“Os LLMs vão além da produção de frases corretas”, explicam os pesquisadores, “capturam sutilezas, variações semânticas e ajustam a comunicação conforme o contexto e o interlocutor”. A diferença entre esses modelos de linguagem e outros sistemas computacionais está no aprendizado de máquina, por meio do qual os LLMs “aprendem” por tentativa e erro, ou seja, sem depender de respostas programadas por humanos.

Eles operam com bilhões de parâmetros para produzir linguagem natural por meio da observação e experiência, identificando padrões e fazendo previsões com base em estatísticas. Chatbots de IA, como o ChatGPT, Claude, etc. são exemplos de modelos de linguagem em larga escala capazes de criar conteúdos variados e se adaptar ao interlocutor. O “segredo” para a capacidade de lidar com esses dados e produzir textos coerentes com a linguagem humana está nos embeddings, representações matemáticas que posicionam palavras segundo seus usos e relações contextuais (um adjetivo feminino, por exemplo, tem um determinado valor que só vai aparecer próximo a um substantivo feminino). 

Quanto ao seu impacto, os pesquisadores destacam que a tecnologia reorganiza a lógica de produção e de circulação de conteúdo online. A adoção por setores como o jornalismo, por exemplo, oferece ganhos evidentes em agilidade, com a geração automatizada de textos a partir de bases extensas de dados. Ao mesmo tempo, ela compromete a riqueza narrativa ao uniformizar estilos e desconsiderar perspectivas e vozes diversas. 

Na publicidade, os impactos são ainda mais evidentes, já que os LLMs entregam para as empresas uma capacidade inédita: a de produzir conteúdos altamente personalizados em quantidades massivas, resultando em uma adaptação “quase cirúrgica” às infinitas preferências individuais dos usuários. “Ao interpretar dados afetivos em larga escala”, dizem os autores, "empresas ajustam estratégias discursivas para engajar públicos de forma emocionalmente eficaz".

“Essa capacidade, embora tecnicamente impressionante, levanta questões delicadas sobre manipulação e agência informativa: até que ponto se trata de adequação e onde começa a persuasão intencional?”

Sushila Claro, Vinicius Sarralheiro e Acácio Bianchi, pesquisadores

Principais problemas éticos relacionados ao uso de LLMs

Os pesquisadores alertam que o avanço tecnológico advindo dos modelos de linguagem em larga escala carrega também suas armadilhas: “os mesmos modelos que ampliam o acesso podem restringi-lo, caso repliquem vieses dos dados originais”. Isso se torna ainda mais evidente em um contexto onde o controle da tecnologia está concentrado em poucas empresas. Entre os principais desafios éticos advindos dos LLMs, os pesquisadores mencionam os seguintes: 

• Perda de confiabilidade na informação: “Nunca se produziu tanto conteúdo — e, no entanto, sentido e confiabilidade tornam-se cada vez mais escassos.” A grande quantidade de textos produzidos por IA não é garantia de clareza, nem de verdade, e isso leva, explicam os autores, a uma desconfiança generalizada acerca das informações que circulam online, comprometendo o papel fiscalizador da comunicação e, por conseguinte, o debate público.  Ademais, a capacidade dos LLMs de gerar conteúdos personalizados e em grande quantidade intensifica o fechamento do público em “bolhas informacionais”, que são zonas de conforto onde só transitam informações que agradam os usuários. 
• Falta de diversidade e reprodução de preconceitos humanos: “A suposta neutralidade dos algoritmos”, explicam os autores, “encobre escolhas humanas e estruturas de poder que permeiam todas as etapas de desenvolvimento dessas tecnologias”. A baixa diversidade das equipes que desenvolvem essa tecnologia (majoritariamente homens brancos ocidentais), por exemplo, tende a ensinar ou amplificar na IA padrões que refletem desigualdades raciais, de gênero ou classe. Ao ser solicitado a criar uma imagem de um hospital, por exemplo, uma IA pode colocar apenas homens como médicos, apenas mulheres como enfermeiras e todos como pessoas brancas, mesmo que isso não tenha sido solicitado no prompt. 
• Monopólio de IA transfere o controle das narrativas para grandes empresas: o custo elevado dos data centers e de outras tecnologias envolvidas com os LLMs restringe o seu desenvolvimento a um pequeno número de grandes corporações. Para os pesquisadores, isso amplia desigualdades de acesso e influencia os rumos da tecnologia. Essa assimetria não é apenas econômica, mas também simbólica: “ao limitar a diversidade de atores envolvidos na criação da IA, compromete-se a pluralidade de visões que poderiam reconfigurar seus usos.”
• Desinformação, manipulação do debate público e eleitoral: LLMs já vêm sendo instrumentalizados em campanhas de desinformação com potencial de manipular debates públicos e processos eleitorais. Um exemplo são as deep fakes voltadas a difamar candidatos. “A manipulação algorítmica de discursos políticos”, dizem os autores, “já é um dado da realidade, o que torna imprescindível a construção de diretrizes públicas voltadas à proteção democrática”. 

“O primeiro aspecto a ser sublinhado”, explicam Sushila, Vinícius e Acácio, “é que os LLMs são, por natureza, sistemas estatísticos treinados em grandes corpora de dados”. Em outras palavras, ferramentas de IA reproduzem padrões já consolidados e, ainda que sejam capazes de gerar combinações novas e respostas contextualmente relevantes, elas não pensam e não compreendem, apenas calculam. “A crescente delegação de tarefas comunicacionais a sistemas automatizados traz, assim, o risco de redução da linguagem a um produto repetitivo, pouco criativo e, por vezes, ideologicamente enviesado”, afirmam.

Os autores apontam que a solução para esses desafios passa pela criação de diretrizes públicas para o uso de IA e sugerem a reflexão entre profissionais da comunicação, gestores públicos e pesquisadores acerca do papel dos modelos de linguagem em larga escala nas dinâmicas sociais contemporâneas. “A automação de funções comunicacionais”, explicam, “demanda uma requalificação ética e técnica dos profissionais da área, que precisam combinar sensibilidade discursiva com domínio tecnológico”.

Outro ponto levantado pelos pesquisadores é a importância de um letramento público acerca do funcionamento e do uso ético da IA. Usando como exemplo os projetos EducaMídia, do Instituto Palavra Aberta, e os programas de educação midiática da Unesco, os autores apontam que letramento não se trata apenas de ensinar o uso de uma tecnologia, e sim de entender seus efeitos e limitações: 

“A educação midiática e digital é estratégica: só sujeitos críticos e bem informados poderão reconhecer os limites da automação e reivindicar formas mais justas de produção e circulação simbólica”. 

Sushila Claro, Vinicius Sarralheiro e Acácio Bianchi, pesquisadores

Revista Interfaces da Comunicação

A Interfaces da Comunicação é vinculada ao Grupo de Estudos em Novas Narrativas (GENN) da ECA e reúne pesquisadores de diversas áreas do conhecimento com a intenção de agrupar, organizar e difundir conhecimento e reflexões sobre as narrativas na contemporaneidade.

Em sua edição mais recente, o periódico traz diversos artigos sobre como as novas tecnologias influenciam e moldam a produção de narrativas, sobretudo online. Além do trabalho sobre os impactos da IA, a Interfaces traz um estudo sobre projetos de lei voltados à regularização da IA e como isso reflete as visões políticas sobre o tema, e um artigo sobre como empresas usam o conceito de “CEO influencer” para controlar as narrativas sobre suas marcas nas redes sociais. 

Foto de capa: reprodução/ Foro3D.com.