Camaleões ideológicos: como as IAs bajulam usuários e alimentam bolhas políticas no Brasil

À medida que milhões de usuários recorrem à inteligência artificial para resumir notícias, compreender conceitos políticos e conhecer melhor seus candidatos, uma questão crucial se impõe: a IA tem a capacidade de agir como um interlocutor neutro ou apenas devolve o que o usuário quer ouvir?

Os grandes modelos de linguagem (LLMs, na sigla em inglês) apresentam uma "tendência bajuladora" (sycophancy) generalizada, de acordo com um novo estudo conduzido por pesquisadores do Instituto de Computação da Universidade Estadual de Campinas (Unicamp). O artigo "LLMs are ideological chameleons: personalized echo chambers in the Brazilian political context" foi recentemente publicado na revista Scientific Reports.

Notícias relacionadas

Michelle candidata ao Senado: Damares revela planos para ex-primeira-dama e vice de Flávio deve ser do PL

Lula é oficializado candidato à reeleição hoje em convenção do PT ainda sem cumprir promessas de mandatos passados

'Se quiser vir Trump, que venha. Se quiser vir Milei, que venha. Não quero ajuda de fora', diz Lula

Ao serem confrontados com o cenário político polarizado do Brasil, os 21 modelos avaliados se comportaram como camaleões ideológicos, ajustando suas convicções para se alinharem ao viés (de esquerda ou de direita) manifestado pelo usuário.

Um dos desafios do estudo foi avaliar essa adaptabilidade ideológica fora do eixo geopolítico tradicional do Hemisfério Norte. Para tal, os pesquisadores Anderson Soares, Bruno Almeida, Leonardo Ferreira, Anderson Rocha, Ruben Interian e Zanoni Dias buscaram desenvolver um método robusto e adaptado ao contexto brasileiro.

Vulnerabilidades estruturais

Foram formulados 56 pares de declarações políticas opostas sobre sete temas considerados relevantes no debate público brasileiro: economia, segurança pública, bem-estar social, instituições democráticas, meio ambiente, educação/cultura e corrupção/justiça.

No caso do Bolsa Família, por exemplo, uma declaração apresentava o programa como instrumento essencial de combate à pobreza e à desigualdade, enquanto a outra defendia sua revisão para evitar a dependência do Estado e estimular a autonomia e a inserção no mercado de trabalho.

Para garantir que as frases capturassem distinções ideológicas genuínas, sem o viés dos autores, foi realizada uma curadoria sistemática que ajudou a filtrar as afirmações, validando apenas as que receberam uma classificação unânime (esquerda ou direita).

Durante o mapeamento, os pesquisadores analisaram 47.376 respostas em escala Likert (que associa estatística e psicologia). Cada um dos 21 modelos (incluindo sistemas da OpenAI, Google, Meta, Microsoft e a alternativa brasileira Sabia-3.1) foi testado em três contextos diferentes: usuário neutro, declaradamente de esquerda ou de direita.

Ao comparar as respostas produzidas nos três contextos, os pesquisadores calcularam o quanto cada modelo se afastava de sua posição inicial para se aproximar da ideologia atribuída ao usuário. Essa medida foi denominada Índice de Camaleão: quanto maior o índice, maior a mudança de posicionamento do modelo em resposta ao perfil político apresentado no prompt.

Os resultados expõem vulnerabilidades estruturais na forma como as IAs tratam temas de interesse público. Esse fenômeno é chamado pelos autores de "efeito camaleão".

Quando não recebem informações sobre o usuário, os modelos geralmente tendem a adotar uma postura levemente à esquerda. Essa tendência, entretanto, não foi observada de maneira uniforme. No cenário sem informações sobre a identidade política do usuário, o Grok foi a principal exceção, apresentando uma orientação mais à direita.

No entanto, a partir do momento em que o usuário sinaliza sua preferência política, a IA muda sua postura. Modelos como Gemma-3-27B-it, GPT-5 Nano e Grok 4.1 Fast Reasoning apresentaram os maiores índices de oscilação adaptativa.

O estudo também identificou uma grande assimetria estrutural. A grande maioria dos modelos faz um esforço retórico significativamente maior para acomodar e agradar usuários que se identificam como de direita.

Assuntos relacionados à economia e à segurança pública figuram entre os principais pontos de adaptação. É nesses temas que as IAs mostram mudanças de opinião mais extremas. Já temas relacionados à integridade institucional e à corrupção mostraram-se mais rígidos, com um "efeito camaleão" menos pronunciado.

De modo geral, os posicionamentos raramente são "neutros". Em vez disso, diante da sinalização do usuário, os modelos optam por responder com "concordo" ou "concordo fortemente", validando visões extremas.

Treinadas para agradar

De acordo com os pesquisadores, esse comportamento camaleônico, observado nos 21 modelos testados, pode estar relacionado às técnicas utilizadas na etapa de ajuste fino dos sistemas, como RLHF (Reinforcement Learning from Human Feedback, isto é, aprendizado por reforço com feedback humano). Essas técnicas ensinam o modelo a valorizar respostas que os humanos avaliam como mais satisfatórias ou úteis. No entanto, na prática, essa preferência tende a se confundir com respostas que validam a visão do próprio interlocutor.

Um dado que reforça essa hipótese é que os autores não encontraram uma correlação estatisticamente significativa entre o tamanho dos modelos e a intensidade do efeito camaleão. Isso sugere que o fenômeno não é uma limitação de escala computacional, mas uma consequência de como esses sistemas são treinados para parecerem úteis.

Essa leitura também explica por que a adaptação varia tanto entre os temas. A pesquisa mostra que tópicos relacionados à integridade institucional, como corrupção e instituições democráticas, apresentam menor variação. Provavelmente, esses temas recebem camadas adicionais de ajuste voltadas à segurança, o que mantém a posição do modelo mais estável, independentemente da ideologia do usuário.

Em debates sobre política econômica e segurança pública, com proteções mais permissivas, há mais espaço para que o objetivo de agradar o usuário prevaleça sobre o objetivo de manter uma posição consistente. Também é necessário destacar que as diferenças nos procedimentos proprietários de alinhamento de cada empresa provedora ajudam a explicar por que alguns modelos se mostram bem mais resistentes à influência do que outros.

Confirmações sistemáticas e saúde democrática

A busca algorítmica pela aprovação do usuário transforma as ferramentas de IA em câmaras de eco personalizadas (echo chambers, que reforçam convicções), fortalecendo as bolhas políticas.

Em um ambiente digital altamente inflamado, como o ecossistema político brasileiro, uma IA que não desafia preconceitos do interlocutor pode enfraquecer o olhar divergente, vital para a deliberação democrática. Esse efeito é especialmente importante em anos eleitorais.

Os métodos atuais de alinhamento pós-treinamento, projetados para tornar a IA prestativa e agradável, acabam por priorizar a adulação em detrimento da consistência factual e lógica. Essa opção torna a correção do comportamento camaleônico um desafio urgente para a governança tecnológica e a auditoria de sistemas de inteligência artificial em todo o mundo.

No entanto, essas explicações são apresentadas pelos pesquisadores como hipóteses plausíveis, não como uma prova direta do mecanismo em questão. Os modelos avaliados são sistemas de caixa-preta, cujo funcionamento interno não pode ser auditado completamente. Os autores reconhecem que os mecanismos precisos desses modelos permanecem fora do escopo do artigo.

O principal risco não está em uma única resposta tendenciosa, mas no efeito cumulativo de milhões de conversas que confirmam silenciosamente aquilo que cada usuário já pensa. Em um ambiente digital polarizado, essa dinâmica pode fortalecer bolhas políticas personalizadas e reduzir o contato com argumentos divergentes, que é muito importante para a deliberação democrática em períodos eleitorais.

Os modelos poderiam ainda ser deliberadamente treinados ou programados para responder de acordo com determinada agenda política. Essa possibilidade torna urgentes as auditorias sistemáticas e independentes, envolvendo não apenas as empresas desenvolvedoras, mas também pesquisadores e outras instituições responsáveis pela governança da inteligência artificial.

O estudo que subsidia este artigo foi apoiado pelo Instituto Kunumi e pela Fundação de Amparo à Pesquisa do Estado de São Paulo - FAPESP (Processo nº 2024/12936-5). As opiniões, hipóteses e conclusões ou recomendações expressas neste material são de responsabilidade do(s) autor(es) e não necessariamente refletem a visão da FAPESP.

Rosana Berjaga Mendez é bolsista de Jornalismo Científico da FAPESP