Yuval Harari: 'Se a humanidade estiver dividida, a IA vai nos escravizar ou até nos aniquilar'
Historiador israelense e escritor best-seller, ele participou de evento de apresentação do SP2B - São Paulo Beyond Business e alertou para os perigos da inteligência artificial e como podemos usá-la para o bem
"A história não é o estudo do passado, é o estudo da mudança". Foi com essa frase que o jornalista e apresentador Pedro Bial introduziu a participação do historiador israelense Yuval Noah Harari na prévia do SP2B - São Paulo Beyond Business, megaevento de negócios, criatividade e inovação que será realizado na cidade em 2026.
Autor de Sapiens - Uma Breve História da Humanidade e do mais recente Nexus: Uma Breve História das Redes de Informação, da Idade da Pedra à Inteligência Artificial, entre outros livros que se tornaram best-sellers, ele falou por cerca de uma hora para convidados presentes no Auditório do Ibirapuera na noite de domingo, 17, e depois teve um bate-papo com Bial.
Durante sua palestra, Harari disse que se atentaria a três perguntas: O que é IA?, Quais são seus perigos? e Como podemos garantir que ela ajude a humanidade a prosperar, e não a nos destruir? Como já havia destacado o historiador, o maior desafio hoje é o fato de que há mais desconfiança do que nunca entre os humanos.
Harari criticou governos que tendem a criar "fortalezas", com tendências totalitárias e imperialistas, citando Donald Trump, Xi Jinping, Vladimir Putin e Benjamin Netanyahu. "Algumas mentes pensam que podem moldar o mundo para todos os outros", disse. Para o pensador, o que diferencia esse momento de outros em que a humanidade esteve em crise é que agora temos não só humanos moldando o mundo, mas, pela primeira vez, inteligências não humanas fazendo a mesma coisa.
Inteligência artificial ou inteligência alienígena?
Harari afirmou que o termo IA tem sido aplicado para muitas coisas, mas é preciso saber diferenciar: "A IA não é automação. É um agente independente, capaz de aprender e evoluir por conta própria, de tomar decisões e inventar novas ideias sozinha", explicou o historiador. Por conta disso, ele diz que uma palavra mais adequada para essa tecnologia seria "inteligência alienígena", no sentido de que é não humana, "opera em linhas inorgânicas."
Essa inteligência não humana pode inventar novas estratégias militares, aparelhos financeiros, novas religiões e até ideologias. Harari alerta: o que acontecerá quando os líderes políticos não conseguirem mais entender e controlar o sistema financeiro? O que acontecerá quando nenhum humano conseguir entender o que está acontecendo no mundo?
"O problema da IA é ser imprevisível e não confiável", disse o historiador. E as grandes empresas continuam a desenvolvê-la sem nenhum tipo de controle, sob a justificativa de que não podem confiar na concorrência. "Os humanos que acham que não podem confiar em outros humanos, mas aceitam confiar nessa inteligência alienígena podem estar comentando um grande erro", disse.
Harari também alerta para o fato de que as IAs mais simples já sabem mentir e manipular. Não sabemos o que acontecerá quando milhões delas interagirem com humanos, e menos ainda qual será o resultado da interação entre elas.
"O maior desafio de líderes de negócios e inovadores não é como criar tecnologias mais poderosas e inteligentes, e sim como desenvolver a sabedoria necessária para usar todo esse poder e inteligência para o bem", disse. E como solucionar isso? É "simples", segundo ele: criar mais confiança entre os humanos antes de desenvolver tais tecnologias.
"Infelizmente, quando precisamos da confiança entre os humanos mais do que nunca, muitos dos nossos líderes poderosos estão ocupados arruinando essa confiança", afirmou. "Se a humanidade estiver dividida, a IA vai fugir do nosso controle e vai nos escravizar ou até nos aniquilar."
Por outro lado, ele diz, se construirmos essa confiança, podemos usar a IA para pesquisas científicas, avanços na medicina. A IA é como uma criança, argumenta Harari, ela vai aprender com base nos nossos comportamentos, portanto, cabe a nós educá-la de modo a servir ao bem.
