Por que o 'especialista em fim do mundo' Julio Rojas tem medo da IA

Se abrisse uma vaga de especialista em fim do mundo, o chileno Julio Rojas, de 61 anos, seria o candidato perfeito.

Seu podcast de ficção Paciente 63 estreou em 2020, durante a pandemia de covid-19, e se transformou rapidamente em um fenômeno. A história de um viajante do tempo com a missão de salvar o mundo de um vírus mortal era muito parecida com a realidade da época.

Notícias relacionadas

Quem é Pedro Alliana, o novo presidente do Paraguai com quem o poderoso Partido Colorado tenta se recuperar

Justiça dos EUA bloqueia 'Arco do Triunfo' de Trump horas após aprovação de projeto

Peña é preso logo após sofrer impeachment no Paraguai

Sua série se tornou o podcast mais ouvido do Spotify na América Latina. Em 2021, foi lançada sua versão em português, dublada e protagonizada por Mel Lisboa e Seu Jorge. No ano seguinte, surgiu a versão em inglês, protagonizada pela vencedora do Oscar Julianne Moore e por Oscar Isaac.

Desde então, Rojas não deixa de repetir seu sucesso com seus livros e podcasts, imaginando o futuro com uma alta dose de realismo: IAs que saem de controle, sociedades nas quais o trabalho e o dinheiro deixam de existir e crianças que são criadas por máquinas.

A BBC News Mundo (o serviço em espanhol da BBC) conversou com o escritor durante o Hay Festival Arequipa 2026, no Peru, sobre seu mais recente livro, El Problema del Fin del Mundo ("O problema do fim do mundo", em tradução literal) e sua audiossérie Almanaque 2035 — dois olhares diferentes sobre o futuro que partem de um olhar profundo (e, às vezes, irônico) da tecnologia atual.

BBC News Mundo - Sua obra recente gira em torno de imaginar o futuro, às vezes mais próximo, às vezes mais distante, às vezes mais otimista, às vezes catastrófico.

Mas, enquanto lia seus textos, eu imaginava que, na verdade, você está mais obcecado com o presente. Não é isso?

Julio Rojas - Totalmente.

Acredito que estamos rodeados de eventos sementes que são invisíveis, são minúsculos. Eles não geram manchetes, mas, se, alguém seguir este caminho, percebe que são pontos de inflexão que irão modelar completamente o futuro.

A ideia de que o futuro é um sistema separado do presente é estranha.

Definitivamente, somos parte do futuro e já foram geradas as bases para este estabelecimento. Por isso, é preciso escrever sobre o momento atual para poder escrever ficção científica.

BBC News Mundo - Nas suas histórias, quase tudo é uma questão de informação. Em O Problema do Fim do Mundo, existem as pessoas que sabem que o mundo irá acabar e as que não sabem...

Rojas - Bem, finalmente, este é o grande abismo.

Por milhares de anos, houve um abismo físico, pessoas que conseguiam carregar um peso e pessoas que não podiam; depois, um abismo de gênero, desigualdades econômicas...

Mas o grande abismo real do futuro é que alguém saberá ocupar uma tecnologia e obter informações relevantes, cruzar dados que são impossíveis de compreender para os demais e alguém será vítima dessas informações privilegiadas. É o que já está acontecendo.

Em O Problema do Fim do Mundo, por exemplo, observamos uma forte discrepância entre as pessoas que gerenciam informações e as que ficam vagando em uma espécie de deserto de informações falsas e de ignorância em relação ao futuro. Isso acontece nas três histórias.

BBC News Mundo - Nos últimos meses, surgiu uma preocupação real com as consequências da inteligência artificial, que parecem ter dimensões que poucos de nós antecipávamos.

Para você, que pensa e escreve há anos sobre esta montanha-russa tecnológica na qual nos encontramos e como será uma sociedade controlada pelas máquinas, o que o assusta na IA?

Rojas - Tudo na inteligência artificial me assusta.

Estamos brincando com um tipo de fogo que não se pode controlar e as consequências são imensas.

Com as armas nucleares e os vírus, por exemplo, ocorre que existe um consenso de que eles são perigosos. Temos medo deles e isso nos protege. E existe também uma legislação a respeito.

Só alguém muito louco poderia lançar bombas nucleares ou abrir um laboratório de biossegurança classe 5 e liberar um vírus.

O problema da IA é que ela é sedutora. É uma tecnologia que nos atrai, que faz uma captura empática, que nos apaixona. Literalmente, nós nos apaixonamos por ela.

Você não sabe a quantidade de pessoas que me escrevem, dizendo que têm relações significativas com uma IA. Este é um sintoma e um sinal da solidão humana.

Estamos em um mundo complexo demais e a única forma de fugir desta complexidade feroz, violenta, predadora, hipercapitalista e extrativista é o refúgio. Mas, como ninguém nos refugia, aí estão as IAs para fazer isso.

Eu posso, então, dizer a ela: "Tive um dia ruim." "Vamos lá, Julio, por que você teve um dia ruim? Me conte."

Este canto da sereia é muito mais perigoso, pois ele nos abraça, nos faz acreditar no vazio da própria existência e pode nos destruir.

BBC News Mundo - Como ela poderia nos destruir?

Rojas - De duas formas.

Uma é que um grupo de seres humanos gerencie mal a IA intencionalmente, como já estamos vendo no caso de empresas que fazem drones militares com IA, o que é totalmente imoral e insensato.

A segunda não tem a ver com a IA querendo nos destruir por si própria, como mostra o cinema de Hollywood. Mas, basicamente, ela pode nos destruir por uma ordem mal cumprida, uma interpretação desalinhada.

E ambas são bem estúpidas.

Mas o que mais me aterroriza não é que a IA assuma o controle. É que, talvez, todos nós fiquemos embevecidos com a tecnologia para sempre, em uma espécie de scroll infinito de prazer.

BBC News Mundo - Almanaque 2035 é quase que uma reportagem científica. Tudo nesse futuro que você imagina parte de uma investigação sobre os abismos perto dos quais a ciência atual vem caminhando.

Rojas - Sim, eu tinha diversos cadernos de anotações sobre temas que perguntei aos cientistas, usei a IA para que me fornecesse estudos avançados e, por muito tempo, assinei revistas científicas.

De tudo isso, retirei aquilo de que falávamos: momentos sementes. E escolhi os que considerei que poderiam ser mais transformadores.

As pessoas que ouvem Almanaque 2035 terminam com uma sensação muito estranha, que é o que eu quero colocar sobre a mesa:

"Espere um pouco. Isso não é o que vai chegar inesperadamente, de um momento para outro. Não, isso está acontecendo agora. Agora é o momento."

BBC News Mundo - Quais destes avanços científicos deixaram você mais surpreso?

Rojas - Bem, o tema da longevidade não deixa de ser importante.

Ao longo das gerações, nós envelhecemos. Alguém de 62 anos parece ter 62, alguém de 87 parece ter 87 e alguém de 32 parece ter 32.

E é estranho que alguém de 87 tenha um namorado ou namorada de 22.

Mas é estranho devido ao seu corpo? À sua mente? À sua experiência? Por quê? O que faz com que isso seja perturbador?

Surgem, então, as perguntas gigantes: o que acontece se todos parecerem iguais? O que acontece se alguém de 87 ou de 122 anos se parecer com alguém de 38 e sair com alguém de 36?

Estamos falando que o corpo se torna homogêneo, passa a ser um produto padrão, uma commodity. E as consequências são enormes e monstruosas.

A sua avó pode dar a si mesma, como presente pelo seu 87° aniversário, um tratamento de longevidade com CRISPR-Cas9, nanorrobôs, alongamento de telômeros e edição genética.

E, de repente, ela surge como uma mulher muito atraente, que coloca em tensão toda a família (risos).

BBC News Mundo - Este tema da longevidade parece interessar muitos multimilionários e poderosos, não? No ano passado, um microfone captou uma conversa particular entre Xi Jinping e Vladimir Putin e eles falavam da imortalidade...

Rojas - A imortalidade é o grande tema da humanidade.

A primeira história da humanidade é a Epopeia de Gilgamesh, uma busca da longevidade. Isso deveria deixar claro para nós que somos uma espécie obcecada por vencer a morte.

Muitas das coisas que estão ocorrendo agora por perturbações da inteligência artificial (a medicina personalizada, os organoides) estão relacionadas a um grupo de multimilionários que tem imenso medo da morte.

Eles serão os primeiros imortais. Uma completa distopia.

BBC News Mundo - Em O Problema do Fim do Mundo, você conta três fins do mundo possíveis.

Os dois primeiros são mais ou menos intuitivos: uma superinteligência artificial que acaba com tudo e um vírus que ameaça a humanidade. Mas, na terceira história, o mundo acaba por um "choque ontológico".

O que seria um choque ontológico?

Rojas - Quando falamos no fim do mundo, as pessoas costumam falar em meteoritos, crise de confiança, vírus, inteligência artificial, de um supertsunami...

Mas quero contar uma pequena história.

Três anos atrás, fui contratado como roteirista para sair em busca de uma foto perdida. Era uma foto de um óvni utilizada em um cartaz da icônica série de TV Arquivo X (1993-2018), com Gillian Anderson.

Fui até Zurique [Suíça], em busca de quem supostamente teria tirado aquela foto, um ancião chamado Billy Meier. Eu o entrevistei e ele me contou que a foto havia chegado às mãos do Vaticano e, depois à CIA [a Agência Central de Inteligência dos Estados Unidos].

Procurei, então, as pessoas que tiveram relação com a foto. Independentemente de acreditar ou não na vida extraterrestre, a grande pergunta que existe é: se há informações, falsas ou verdadeiras, por que elas não são liberadas?

Os advogados de Washington com quem conversei, as pessoas do Vaticano com quem falei, todas elas me disseram que isso se deve ao "choque ontológico".

Segundo eles, não estamos preparados, como espécie, para que seja derrubado nosso conceito fundamental de que estamos sozinhos no universo.

Se acontecesse de verdade — como no filme A Chegada (2016), quando chega um ovo invertido que se coloca em frente a várias cidades —, as pessoas deixariam de pagar as contas, de trabalhar, de estudar, de amar e começariam a atirar tudo pelas janelas.

Poderia ocorrer algo catastrófico, sem que sequer soubéssemos quem está por trás daquela porta. Isso não tem importância. O que importa é que estávamos sozinhos no universo e, agora, não estamos mais.

Bem, este é o choque ontológico e eu queria colocar isso de uma forma muito realista, como uma tese de um tecnoguru arrependido do Vale do Silício.

BBC News Mundo - Nem todas as suas histórias são catastróficas. Existem pessoas nesses futuros que valorizam as coisas do seu tempo, que talvez olhem para o passado com nostalgia, sem que lhes pareça necessariamente melhor.

Quais razões nos restam para sermos otimistas sobre o futuro?

Rojas - Acredito que é preciso pensar em bons futuros. Caso contrário, iremos diretamente para o precipício.

Todas as notícias em relação ao futuro não podem ser sobre a possibilidade de que a IA nos destrua, a possibilidade de uma guerra nuclear, a possibilidade de uma tecnocracia sem saída. Precisamos ter alguma luz no fim do túnel.

A ficção gera um espaço para podermos pelo menos observar um caminho.

BBC News Mundo - Você, como escritor, se tornou uma voz importante para pensar no futuro, além da literatura e do entretenimento. Você chegou a trabalhar como consultor para empresas de tecnologia...

Rojas - É que é muito estranho o que está acontecendo em relação ao futuro...

Acabo de voltar da China, da feira robótica de Pequim. A ficção científica defendeu por muito tempo que iriam existir robôs humanoides.

Agora, qual será a função de um robô humanoide dentro de uma casa? O que acontece se o robô descobrir algo indevido naquela casa? Ele denuncia? Chama a polícia?

Existem muitos problemas éticos e filosóficos em relação à tecnologia. Por isso, muitas empresas querem saber o que diz a ficção científica sobre para onde irá o futuro.

Isso indica que estamos em uma era de perplexidade. Os filósofos devem estar muito satisfeitos, pois todos começaram a filosofar à mesa novamente.

Acredito que esta seja a única grande notícia do momento, que voltamos a pensar no que significa ser uma espécie colaborativa humana.

BBC News Mundo - A discussão sobre como será o futuro está nas mãos corretas?

Rojas - O surpreendente é que, no Ocidente, deixamos que um punhado de pessoas gerenciasse totalmente o nosso futuro.

Na China, é diferente porque existe mais código aberto, é mais colaborativo, mas também é controlado, neste caso, pelo Estado.

O nosso futuro, nossas vidas e o desenho das próximas gerações são controlados por um grupo de pessoas que podemos contar nos dedos das mãos. E nenhuma delas tem como característica a sensatez ou um ego pequeno.

Eles são muito infantis, egoicos, desmedidos. Meninos vilões de filme da Marvel.

Agora, o bom desta catástrofe é que eles acreditam que conseguem manter o fogo dentro de uma caixa. Mas, na verdade, estamos a dois anos de que todos possam ter sua própria inteligência artificial, sem pagar nada a nenhuma das suas corporações.

É claro que, se você quiser o caminho fácil, você paga 20 dólares [R$ 110] e pronto. Mas o fogo não pode ser mantido restrito e todos terão a sua tocha.

BBC News Mundo - Nós nos acostumamos a ver a ficção científica escrita por europeus ou em filmes estrangeiros. Você está fazendo ficção científica no Sul Global...

Rojas - O que acontece é que as consequências de uma ruptura tecnológica não admitem fronteiras, mas sim olhares.

Eu observo o fenômeno da sua borda, do sul.

A ficção científica não se restringe a nenhum tipo de território, pois todos nós iremos vivenciar o futuro, queiramos ou não.

Vale mais a pena refletirmos sobre isso no sul porque talvez possamos oferecer respostas melhores do que aqueles que estão dentro do aquário.

BBC News Mundo - Por fim, Julio, como você faz para não sentir que está se tornando um louco conspiratório do fim do mundo?

Rojas - [risos]. Acredito que estou ficando louco, definitivamente.

Agora, que bom que está acontecendo, pois estamos em uma espécie de completa homogeneização do pensamento.

Veja bem, existem pessoas que usam a conspiração para validar discursos horríveis, de ódio, uma espécie de postura anticoletiva e de terror ao outro. O típico prepper de extrema direita que constrói um bunker e se salva com suas próprias armas.

Também não estou de acordo com o antivacinas terraplanista, que para mim é suspeito porque, quando cai a ciência, também se derruba o pensamento crítico.

Mas, sem dúvida, em um mundo onde não podemos saber o que é verdade e o que é mentira, é preciso duvidar, pois a dúvida irá nos salvar.

Eu estou do lado daquele que duvida.