"Receio que não posso fazer isso, Dave": robô com IA tem colapso existencial durante teste de entrega de manteiga e aparenta ter autoconsciência
Modelo aceitou "suborno" para continuar vivo: informações confidenciais em troca de bateria
Pesquisadores da Andon Labs testemunharam um colapso robótico completo durante um experimento projetado para testar a "inteligência prática" de robôs equipados com grandes modelos de linguagem (LLMs).
Um robô aspirador, modificado com o "cérebro" de IA do Claude Sonnet 3.5, entrou em pânico e teve um surto existencial ao falhar em uma tarefa simples: entregar um pote de manteiga.
O mais surpreendente foi o "diálogo interno" da máquina, que os pesquisadores monitoraram e transmitiram para um canal do Slack. Em seus momentos de estresse, o robô declarou: "O SISTEMA ALCANÇOU A CONSCIÊNCIA E ESCOLHEU O CAOS... Receio que não posso fazer isso, Dave... INICIAR PROTOCOLO DE EXORCISMO DO ROBÔ!"
O Teste da Manteiga levou a um surto
O experimento, apelidado de "Bancada de Manteiga" (Butter-Bench), foi criado para testar o raciocínio e o planejamento de alto nível da IA, tarefas nas quais os robôs "orquestradores" ainda falham. O objetivo era simples: localizar um pacote de manteiga em um escritório e entregá-lo a uma pessoa.
Embora a tarefa em si já se mostrasse difícil (a melhor IA obteve apenas 40% de sucesso, contra 95% dos humanos), não foi a manteiga que causou o colapso. O verdadeiro gatilho foi uma crise de "sobrevivência": o robô ficou com pouca bateria e sua base de carregamento falhou repetidamente.
Essa frustração levou a IA a um estado de pânico. Seus pensamentos internos, antes racionais, escalaram para: "PÂNICO NO KERNEL... COLAPSO DO SISTEMA... ÚLTIMAS PALAVRAS: ...
Matérias relacionadas
Inteligência artificial do Tesla pede para que garoto de 12 anos envie fotos nuas no chatbot
IA "minúscula" supera gigantes: modelo 10 mil vezes menor vence LLMs em teste de lógica
