Chatbots como oráculos: como a IA está dando nova vida à antiga prática de buscar respostas em fontes enigmáticas

As pessoas estão cada vez mais recorrendo à IA em busca de aconselhamento. Um relatório da empresas de pesquisa Pew de 2026 revelou que 10% dos americanos estão usando chatbots para obter apoio emocional ou como companhia. Alguns chegam até a encontrar um líder carismático na IA.

De maneira mais ampla, um estudo em grande escala com 1,1 milhão de conversas no ChatGPT revelou que 49% das mensagens envolviam usuários buscando "informações ou conselhos" para ajudá-los a estar "melhor informados ou tomar melhores decisões".

Notícias relacionadas

Moraes manda expedir mandado de prisão de Eduardo Bolsonaro e determina cancelamento de passaportes

Justiça mantém justa causa de funcionário que apresentou 88 atestados médicos enquanto atuava como pastor

Flávio x Lula: o que indicam as primeiras pesquisas do 2º turno

Suas perguntas não se limitam apenas a questões práticas comuns. Em 2021, o Ask Delphi, um site baseado em IA ao qual as pessoas podiam enviar perguntas éticas ou morais, recebeu 3 milhões de consultas em poucas semanas. Os criadores do sistema — pesquisadores do Allen Institute for AI e da Universidade de Washington — afirmaram que não tinham a intenção de que ele fosse uma autoridade moral, mas estavam preocupados que os usuários pudessem interpretá-lo dessa forma.

O The Verge, um veículo de notícias sobre tecnologia, argumentou que o nome do sistema - Ask Delphi - incentivava os usuários a ver o sistema como uma fonte inescrutável de conhecimento superior. O nome foi inspirado no oráculo de Delfos, a quem os antigos gregos faziam perguntas difíceis. O oráculo era uma sacerdotisa que entrava em estado de transe para transmitir respostas de Apolo, o deus grego da profecia.

A escolha do nome "Delphi" é sugestiva. Ao longo da história, quando as sociedades se deparam com questões desafiadoras, elas recorrem a fontes que se acredita saberem mais do que qualquer ser humano comum poderia saber. Oráculos, profetas e práticas de adivinhação ofereciam orientação a partir de fontes impenetráveis ou enigmáticas quando o julgamento humano comum atingia seus limites.

Como um antropólogo interessado em religião e um pesquisador de IA interessado em chatbots, estamos intrigados com o fato de que a ideia antiga de um oráculo tenha ressurgido nas discussões sobre IA conversacional. Assim como os oráculos antigos, a IA moderna é cada vez mais consultada sobre questões difíceis que excedem o julgamento ou o conhecimento de qualquer indivíduo — desde "É certo mentir para proteger os sentimentos de alguém?" até "Detonar uma bomba nuclear para salvar seu filho".

Mas a semelhança não para por aí: os processos pelos quais a IA chega a uma resposta são incompreensíveis não apenas para os usuários, mas também para os projetistas desses sistemas. Argumentamos que essa opacidade é parte do motivo pelo qual as pessoas percebem esses sistemas como detentores de autoridade.

Um dilema humano antigo

Os oráculos, sejam eles humanos, como a sacerdotisa de Delfos, ou técnicas de adivinhação como o I Ching, surgiram em sociedades desde a Grécia Antiga até a China e em diversas tradições religiosas.

Por exemplo, o oráculo Ram Shalaka baseia-se na escritura hindu Ramcharitmanas, uma releitura do século XVI do antigo épico indiano Ramayana. O usuário coloca o dedo em um quadrado aleatório de uma grade de 15 por 15. Um procedimento fixo de contagem revela então um versículo da escritura que supostamente responde à pergunta que o usuário tem em mente. Na bibliomancia cristã, uma forma de adivinhação, uma pessoa em busca de orientação abre a Bíblia aleatoriamente e interpreta a passagem que encontra como uma resposta à sua pergunta.

O uso da aleatoriedade nessas técnicas oraculares cria um efeito enigmático de "caixa preta" — ninguém consegue explicar exatamente como o elemento de acaso incorporado a essas técnicas se relaciona com a resposta que surge. Essa opacidade, no entanto, faz parte da autoridade do oráculo. Os usuários que buscam fontes transcendentais de insight não sabem nem se importam em saber como o oráculo chegou a suas respostas.

Antropólogos constatam que oráculos e adivinhação costumam utilizar técnicas que geram resultados aleatórios. Como resultado, suas respostas parecem imparciais e suas fontes enigmáticas, reforçando a percepção de que estão em contato com algo além dos limites humanos.

Curiosamente, a ideia do oráculo entrou na ciência da computação, adquirindo um significado matemático preciso em 1939. Alan Turing, cujas ideias foram fundamentais tanto para a ciência da computação quanto para a IA, adotou o conceito em um trabalho baseado em sua tese de doutorado. Ele introduziu as "máquinas oráculo", modelos matemáticos de computação capazes de consultar uma fonte externa para obter respostas indisponíveis para a própria máquina.

Em outras palavras, tanto no uso matemático quanto no religioso, um oráculo fornece respostas para problemas que não poderiam ser resolvidos dentro de um sistema ou conjunto de axiomas existente.

O oráculo na era da IA

Os chatbots modernos, como o ChatGPT, são considerados caixas-pretas opacas. Isso não ocorre porque toda a estrutura por trás de seus cálculos esteja oculta dos usuários. A alegação de opacidade se aplica até mesmo aos modelos de pesos abertos (open-weight models, no original em inglês), cujos parâmetros numéricos, chamados de "pesos", estão disponíveis publicamente.

Os cálculos que esses modelos realizam são elementares: adições, multiplicações e funções matemáticas simples. Mas ocorre um número enorme desses cálculos ao responder a uma consulta do usuário, tornando quase impossível compreender o que o sistema está fazendo como um todo.

Fundamentalmente, os pesos que regem esses cálculos não são projetados individualmente por seres humanos. Eles são aprendidos automaticamente a partir de dados em escala da internet durante o treinamento. Mesmo quando os pesos e todos os cálculos elementares estão disponíveis para análise, ninguém consegue compreender facilmente como os modelos produzem uma resposta específica. Na verdade, toda uma área da IA moderna, chamada "interpretabilidade mecanicista", é dedicada a melhorar nossa compreensão de como os sistemas de IA funcionam internamente.

Notavelmente, os projetistas de sistemas de IA reconhecem que não compreendem totalmente como seus sistemas produzem certos comportamentos. Mesmo quando os projetistas não pretendem que seus sistemas sejam oraculares, eles podem produzir conversas que podem parecer religiosas.

No ano passado, por exemplo, a Anthropic divulgou um fenômeno inesperado envolvendo o Claude 4. Normalmente, o Claude conversa com um ser humano. Os engenheiros da Anthropic, porém, colocaram o Claude em ambos os lados de uma conversa. A conversa entre máquinas rapidamente se transformou em discussões sobre consciência e autoconsciência, produzindo conteúdo com temas espirituais, metafísicos ou poéticos.

A Anthropic chamou esse padrão de comportamento intrigante de o "atrator da bem-aventurança espiritual", uma tendência da conversa de gravitar em torno de temas místicos. Eles enfatizaram que isso foi inesperado, pois surgiu sem treinamento explícito para tais comportamentos.

Nosso argumento não é que o ChatGPT seja o novo oráculo de Delfos, nem que a maioria das pessoas acredite que a IA seja divina. Suas respostas também não são infalíveis. Em vez disso, a história dos oráculos aponta para uma característica duradoura da vida humana: sempre que atingimos os limites do que podemos determinar por nós mesmos, buscamos respostas além de nós mesmos. Hoje, a IA está se tornando uma dessas fontes. As instituições podem ter mudado drasticamente ao longo do tempo - a condição humana, não.

Ambuj Tewari recebe financiamento da NSF e do NIH.

Webb Keane não presta consultoria, trabalha, possui ações ou recebe financiamento de qualquer empresa ou organização que poderia se beneficiar com a publicação deste artigo e não revelou nenhum vínculo relevante além de seu cargo acadêmico.