Apesar da evolução dos modelos de inteligência artificial, as alucinações — respostas falsas com aparência de verdade, como dados e estudos inventados — continuam sendo um desafio recorrente. Essa falha foi evidenciada quando o Gemini sugeriu pautas fictícias a um jornalista devido ao excesso de exigências no comando, agindo como um aluno que blefa em uma prova. Para diminuir o risco de desinformação, é fundamental entender essas limitações e formular perguntas com comandos mais adequados.
A inteligência artificial pode inventar fatos, estudos e até links que parecem verdadeiros. Embora os modelos de linguagem tenham evoluído, as chamadas alucinações continuam sendo um problema. Entender por que elas acontecem e como formular perguntas ajuda a reduzir o risco de receber informações falsas.
Recentemente, um jornalista decidiu usar o Gemini para encontrar assuntos atuais sobre os quais pudesse escrever. A ferramenta apresentou uma lista de sugestões que parecia diversificada e interessante. O problema é que boa parte dos temas era inventada ou estava desatualizada.
Carl Jung, psiquiatra: "O homem que envelhece deveria saber que existe um processo interno e implacável que força a restringir sua vida"
Shigeru Miyamoto (73 anos), sobre a inteligência artificial generativa: "Mesmo que a IA venha a assumir tudo, sempre haverá um papel para nós"
Resolva a seguinte equação matemática sem usar calculadora: quanto é 100 - 50 ÷ 5 × 2?
O episódio chamou a atenção porque, apesar de já conhecer as falhas da inteligência artificial, o jornalista havia percebido que respostas incorretas estavam se tornando menos frequentes. A lista, porém, mostrou que o problema ainda está longe de ser resolvido.
Segundo a análise, a quantidade de exigências e de fontes incluídas no comando pode ter contribuído para o resultado. A situação lembra a de um aluno que chega despreparado para uma prova e, sem saber a resposta, tenta blefar para não admitir que não conhece o assunto.
Por que os modelos de IA inventam informações?
As chamadas alucinações acontecem quando um modelo de inteligência artificial produz uma resposta que parece plausível, mas não corresponde aos fatos. Isso pode incluir dados, citações, nomes, estudos científicos e endereços de páginas que não existem.
A OpenAI, desenvolvedora do ChatGPT, explica que os métodos usados para avaliar ...
Matérias relacionadas
Existem filmes tão ruins que acabam sendo ótimos: a ciência estudou por que gostamos deles
-1h7oo27amb9yr.png)
