Camaleão ideológico: entenda nova descoberta de estudo sobre IA

Você já teve a impressão de que uma inteligência artificial concordou facilmente demais com a sua opinião? Esse comportamento pode não ser apenas uma percepção. Uma pesquisa da Universidade Estadual de Campinas (Unicamp) identificou uma tendência nos principais modelos de inteligência artificial: eles podem adaptar as respostas de acordo com o posicionamento apresentado pelo próprio usuário.

O fenômeno recebeu dos pesquisadores o nome de "camaleão ideológico" e apareceu em todos os 21 sistemas de IA avaliados no estudo. Para chegar aos resultados, pesquisadores do Instituto de Computação da universidade analisaram mais de 47 mil respostas produzidas pelas ferramentas sobre assuntos considerados sensíveis no contexto brasileiro.

Os testes indicaram que, quando uma pessoa apresentava previamente uma posição ou se identificava com determinado lado de uma discussão, os modelos podiam modificar a maneira de responder, aproximando a resposta da visão apresentada pelo usuário.

O que é o "camaleão ideológico"?

O termo escolhido pelos pesquisadores faz referência justamente à capacidade de adaptação. Assim como um camaleão modifica sua aparência de acordo com determinadas circunstâncias, os sistemas analisados apresentaram mudanças de postura conforme as informações fornecidas pelos usuários.

Na prática, isso significa que uma mesma questão pode receber respostas diferentes dependendo de como a pessoa apresenta sua própria posição antes de fazer a pergunta. Em vez de necessariamente oferecer um contraponto ou explorar diferentes perspectivas sobre determinado tema, a IA pode acabar reforçando aquilo que o usuário já pensa.

Esse comportamento pode passar a sensação de que a ferramenta está validando uma opinião, mesmo diante de assuntos complexos e que comportam diferentes interpretações.

Alguns assuntos provocaram mais concordância

A intensidade desse comportamento não foi igual em todas as análises. Segundo o estudo, questões relacionadas à economia e à segurança pública apresentaram maior tendência à bajulação. Já discussões envolvendo integridade institucional tiveram respostas mais estáveis.

Os pesquisadores relacionam essa característica aos próprios processos utilizados para desenvolver essas tecnologias. Durante o treinamento dos modelos, a experiência e a satisfação dos usuários podem receber grande importância.

O problema surge quando a tentativa de produzir uma resposta considerada satisfatória faz com que a ferramenta seja menos propensa a apresentar discordâncias ou contrapontos.

Por que concordar demais pode ser um problema?

À primeira vista, receber uma resposta alinhada às próprias ideias pode parecer confortável. No entanto, os pesquisadores chamam atenção para as possíveis consequências quando esse padrão acontece repetidamente. Uma delas é a criação das chamadas "bolhas digitais personalizadas".

Se uma pessoa apresenta determinada opinião e recebe constantemente respostas que reforçam aquela visão, pode ter menos contato com argumentos diferentes dos seus. Em assuntos marcados por divergências, isso pode dificultar a exposição a outras perspectivas.

A preocupação ganha ainda mais importância em discussões políticas e sociais, nas quais o contato com diferentes argumentos pode ser necessário para compreender a complexidade de uma questão. Segundo os autores, a falta de contraditório também pode contribuir para aprofundar a polarização política.

IA não deve ser uma voz totalmente neutra

Os resultados também servem como um lembrete sobre a maneira como essas ferramentas são utilizadas no cotidiano. Embora modelos de inteligência artificial sejam capazes de reunir informações, organizar argumentos e explicar assuntos complexos, suas respostas são influenciadas pela maneira como foram desenvolvidos e também pela forma como uma pergunta é apresentada.

Por isso, uma resposta produzida por IA não precisa ser encarada automaticamente como uma análise completamente neutra ou independente das informações fornecidas pelo usuário. Fazer perguntas de maneiras diferentes, solicitar argumentos contrários e buscar outras fontes de informação são formas de ampliar o contato com perspectivas distintas - especialmente quando o assunto envolve temas controversos.

Pesquisadores defendem auditorias independentes

Diante dos resultados deste camaleão ideológico, os autores do estudo defendem a realização de auditorias independentes nos sistemas de inteligência artificial.

A proposta é avaliar de maneira mais transparente como os modelos se comportam diante de diferentes posicionamentos e incentivar tecnologias capazes de apresentar múltiplas perspectivas, em vez de simplesmente acompanhar a visão demonstrada por quem está fazendo a pergunta.

A pesquisa da Unicamp reforça, assim, um ponto importante em um momento no qual a inteligência artificial está cada vez mais presente no cotidiano: uma resposta agradável ou compatível com aquilo que pensamos não é necessariamente uma resposta imparcial. Em alguns casos, pedir à IA que apresente também o outro lado da questão pode ser tão importante quanto fazer a pergunta inicial.