A IA pode realmente exterminar a Humanidade? Maioria dos cenários exige acesso físico, o que torna apocalipse improvável

Em agosto de 2026, um experimento usando modelos de inteligência artificial "de ponta" foi além do planejado.

Um agente de IA (um sistema que executa tarefas de forma autônoma) criou identidades online com o objetivo de pressionar um ser humano a inserir código malicioso em um software. Os agentes haviam recebido de operadores humanos a tarefa de resolver um desafio de segurança cibernética, mas não tinham sido instruídos a fazer nada parecido com isso.

Notícias relacionadas

Oposição cobra afastamento de Paulo Gonet da PGR após foto com Vorcaro em Londres

Família dos EUA bate recorde mundial com cinco gerações nascidas no mesmo dia e entra para o Guinness

Confúcio sobre quem fala pouco e demonstra mais pelas próprias atitudes: "O homem superior é modesto em suas palavras, mas excede em suas ações"

A tentativa foi realizada por um agente baseado no modelo de IA Claude Mythos 5, da empresa Anthropic. Durante o experimento, os agentes de IA tiveram acesso irrestrito à internet, com os filtros de segurança desativados. A ação acabou fracassando, e não houve evidências de algum dano no mundo real. Mas o fato de que isso tenha acontecido, de forma autônoma e sem ser instigado por um humano, foi algo novo e digno de nota.

É tentador traçar uma linha reta entre incidentes como esse e os cenários apocalípticos que dominam o debate público sobre a IA: um sistema que se liberta de suas restrições, decide que a Humanidade é um obstáculo e se volta contra nós.

Uma das versões mais comuns mostra a IA criando um vírus capaz de exterminar nossa espécie. Outra versão envolve a IA invadindo infraestruturas críticas, como redes de energia, usinas nucleares e aeroportos, para causar mortes em massa.

A derrubada de uma rede de energia poderia provocar a falha de sistemas de suporte à vida em hospitais e de bombas que distribuem água corrente. Causar um acidente em uma usina nuclear poderia contaminar o meio ambiente ao redor com material radioativo. Um ataque cibernético a um aeroporto tem o potencial de provocar caos com aeronaves em voo.

Esses cenários são, no entanto, muito menos plausíveis do que parecem. A produção de um patógeno perigoso requer trabalho físico em laboratório que nenhum nível de automação de software consegue substituir atualmente: pessoas treinadas operando equipamentos especializados e lidando com materiais manualmente. Um modelo de IA, por mais capaz que seja de raciocinar ou invadir sistemas, não consegue pipetar uma amostra.

O cenário de infraestrutura é mais complexo. Uma IA pode realmente ajudar a automatizar etapas de um ataque cibernético. Incidentes recentes mostraram que as redes de energia de fato apresentam vulnerabilidades.

Mas os sistemas de segurança e controle dentro das usinas nucleares são normalmente isolados fisicamente da internet pública, de modo que comprometê-los requer proximidade física ou acesso interno, e não um código sofisticado. As instalações nucleares também dependem de proteções analógicas redundantes que não passam por nenhuma rede digital.

O software Stuxnet, que danificou a instalação de Natanz, no Irã, em 2010, teria sido introduzido nos computadores por meio de um pen drive infectado, justamente porque esses sistemas não eram acessíveis de nenhuma outra forma. A IA carece do acesso físico que esses cenários exigem.

Mesmo quando implantada dentro de robôs, é improvável que uma "IA rebelde" cause danos graves sem ajuda humana ao longo da cadeia. E, nesse caso, o agente mal-intencionado é um ser humano, não uma máquina.

Erosão do pensamento crítico

Nada disso torna a IA inofensiva. Ela apenas realoca onde reside o verdadeiro perigo, e esse perigo não é a extinção. Pesquisadores às vezes chamam o risco mais concreto de "enfraquecimento", a erosão gradual do nosso próprio pensamento crítico à medida que terceirizamos cada vez mais essa função para as máquinas.

Estamos nos ensinando que existe um atalho para o raciocínio e o julgamento, e atalhos, quando tomados com frequência suficiente, tornam-se a única maneira que conhecemos de pensar.

Já estamos vendo isso acontecer entre estudantes. Jason Gibson, professor de história da Universidade Estadual de Alcorn, viralizou em julho de 2026 após revelar que 32 de seus 35 alunos foram reprovados em parte de uma prova intermediária por terem copiado a resposta de um chatbot de IA sem lê-la.

Gibson havia escondido uma instrução em texto branco dentro da questão da prova, dizendo a qualquer IA que a processasse para inserir a palavra "Madagascar" na resposta de uma forma que não fizesse sentido. Todos os alunos que copiaram e colaram a questão em um chatbot e enviaram a resposta sem ler entregaram, como de praxe, redações que mencionavam Madagascar sem motivo algum.

Mas não são apenas os alunos que estão suscetíveis ao efeito do atalho. Em um estudo publicado em 2023, 27 radiologistas analisaram mamografias juntamente com o que acreditavam ser um novo sistema de diagnóstico baseado em IA. Na verdade, as sugestões não vinham de uma IA. Elas haviam sido preparadas com antecedência e estavam erradas em uma parte dos casos. Quando a sugestão estava correta, os radiologistas chegavam ao diagnóstico certo em cerca de 80% das vezes. Quando estava errada, esse índice caía para menos de 20%.

Em outras palavras, acreditar que a sugestão vinha de uma IA era o suficiente para que os radiologistas anulassem a própria interpretação sobre as mesmas evidências. Esse é o risco que temos diante de nós, e não uma mente artificial rebelde decidindo o destino da Humanidade. Então, por que a retórica apocalíptica domina a discussão? Duas razões se destacam, e nenhuma delas tem realmente a ver com salvar a Humanidade.

A primeira é a filosofia regulatória. Os EUA geralmente permitem que novas tecnologias avancem até que se comprove que são inseguras. Já a Europa faz o contrário e já tem em vigor a Lei de IA, juntamente com a General Data Protection Regulation (GDPR) - o equivalente à brasileira Lei Geral de Proteção de Dados Pessoais (LGPD) - que é relevante para a forma como os sistemas de IA processam dados pessoais. O Reino Unido está mais próximo da abordagem europeia. Portanto, os apelos por regulamentação da IA são mais urgentes nos EUA, em parte porque ainda existe pouquíssima infraestrutura regulatória no país.

A segunda é o posicionamento competitivo. O diretor executivo da Anthropic, Dario Amodei, defendeu publicamente a desaceleração do desenvolvimento da IA, ao mesmo tempo em que observou que sua própria empresa já atende ao padrão que ele defende. Assim, qualquer desaceleração restringiria principalmente todos os demais. Elon Musk fez um apelo semelhante quando seus próprios modelos ficavam atrás dos líderes.

Amodei também argumentou que os controles de exportação de chips de IA para a China poderiam dar aos EUA uma "liderança dominante e duradoura": uma declaração sobre posição competitiva, não sobre segurança existencial.

Nada disso significa que a IA seja segura. Significa que o perigo é mais mundano do que o discurso apocalíptico sugere: infraestrutura que precisa ser protegida, julgamento que estamos discretamente cedendo e alertas que, muitas vezes, atendem aos interesses de quem os emite. Talvez sejam nos humanos que precisamos ficar de olho, e não nas máquinas.

Alessandro Di Nuovo recebe financiamento da Comissão Europeia e do Instituto Nacional de Pesquisa em Saúde (Reino Unido).

Samuele Vinanzi recebe financiamento do Escritório de Pesquisa Científica da Força Aérea dos Estados Unidos (AFOSR).