Como o discurso da IA está se tornando religioso com seus 'profetas', 'demônios' e o 'apocalipse'

Aos 77 anos, Geoffrey Hinton tem uma nova vocação na vida. Como um profeta moderno, o ganhador do Prêmio Nobel está alertando sobre os perigos da inteligência artificial (IA) descontrolada e não regulamentada.

Frequentemente apelidado de "padrinho da IA", Hinton é conhecido por seu trabalho pioneiro em aprendizado profundo e redes neurais, que ajudou a estabelecer as bases para a tecnologia de IA frequentemente usada hoje. Sentindo-se "um pouco responsável", ele começou a falar publicamente sobre suas preocupações em 2023, depois de deixar seu emprego no Google, onde trabalhou por mais de uma década.

Notícias relacionadas

Substituir "desculpe" por outra palavra demonstra uma inteligência emocional acima da média; Steve Jobs nos ensinou o poder dessa atitude

Cientistas identificam um novo tipo de sangue considerado o mais raro do planeta ele pertence a uma única mulher

Professores criam técnica para pegar estudantes que trapaceiam usando o ChatGPT

À medida que a tecnologia — e os investimentos — que impulsionam a IA avançaram nos últimos anos, o mesmo aconteceu com os riscos por trás dela.

"É realmente divino", disse Hinton.

Hinton está entre um número crescente de figuras proeminentes da tecnologia que falam da IA usando uma linguagem antes reservada ao divino. O CEO da OpenAI, Sam Altman, referiu-se à tecnologia de sua empresa como uma "inteligência mágica no céu", enquanto Peter Thiel, cofundador do PayPal e da Palantir, chegou a argumentar que a IA poderia ajudar a trazer o Anticristo.

A IA trará condenação ou salvação?

Há muitos céticos que duvidam que a tecnologia mereça esse tipo de medo, incluindo Dylan Baker, ex-funcionário do Google e engenheiro-chefe de pesquisa do Distributed AI Research Institute, que estuda os impactos prejudiciais da IA.

"Acho que muitas vezes eles estão agindo a partir de um pensamento mágico e fantástico, influenciado por muita ficção científica que provavelmente absorveram em sua formação", disse Baker. "Eles estão realmente distantes da realidade."

Embora chatbots como o ChatGPT tenham entrado no zeitgeist apenas recentemente, certos círculos do Vale do Silício vêm profetizando o poder da IA há décadas.

"Estamos tentando acordar as pessoas", disse Hinton. "Para que o público entenda os riscos e pressione os políticos a fazer algo a respeito."

Enquanto pesquisadores como Hinton alertam sobre a ameaça existencial que acreditam que a IA representa para a humanidade, há CEOs e teóricos do outro lado do espectro que argumentam que estamos nos aproximando de uma espécie de apocalipse tecnológico que dará início a uma nova era da evolução humana.

Em um ensaio publicado no ano passado intitulado "Machines of Loving Grace: How AI Could Transform the World for the Better" (Máquinas de graça amorosa: como a IA poderia transformar o mundo para melhor), o CEO da Anthropic, Dario Amodei, expõe sua visão para um futuro "se tudo der certo com a IA".

O empresário de IA prevê "a derrota da maioria das doenças, o crescimento da liberdade biológica e cognitiva, a saída de bilhões de pessoas da pobreza para compartilhar as novas tecnologias, um renascimento da democracia liberal e dos direitos humanos".

Enquanto Amodei opta pela expressão "IA poderosa", outros usam termos como "a singularidade" ou "inteligência artificial geral (AGI)". Embora os defensores desses conceitos nem sempre concordem sobre como defini-los, eles se referem amplamente a um ponto hipotético no futuro em que a IA ultrapassará a inteligência humana, potencialmente provocando mudanças rápidas e irreversíveis na sociedade.

O cientista da computação e autor Ray Kurzweil vem prevendo desde a década de 1990 que os humanos um dia se fundirão com a tecnologia, um conceito frequentemente chamado de transumanismo.

"Não vamos conseguir distinguir o que vem do nosso próprio cérebro do que vem da IA. Tudo estará incorporado em nós mesmos. E isso nos tornará mais inteligentes", disse Kurzweil.

Em seu último livro, "The Singularity Is Nearer: When We Merge with AI" (A singularidade está mais próxima: quando nos fundirmos com a IA), Kurzweil reforça suas previsões anteriores. Ele acredita que, até 2045, teremos "multiplicado nossa própria inteligência um milhão de vezes".

"Sim", ele acabou admitindo quando questionado se considera a IA sua religião. Ela influencia seu senso de propósito.

"Minhas ideias sobre o futuro e o futuro da tecnologia e a rapidez com que ele está chegando definitivamente afetam minhas atitudes em relação a estar aqui, ao que estou fazendo e como posso influenciar outras pessoas", disse ele.

Visões do apocalipse borbulham

Apesar da invocação explícita de Thiel da linguagem do Livro do Apocalipse, as visões positivas de um futuro com IA são mais "apocalípticas" no sentido histórico da palavra.

"No mundo antigo, apocalíptico não é negativo", explica Domenico Agostini, professor da Universidade de Nápoles L'Orientale que estuda literatura apocalíptica antiga. "Mudamos completamente a semântica dessa palavra."

O termo "apocalipse" vem da palavra grega "apokalypsis", que significa "revelação". Embora hoje seja frequentemente associado ao fim do mundo, o apocalipse no pensamento judaico e cristão antigo era uma fonte de encorajamento em tempos de dificuldade ou perseguição.

"Deus está prometendo um novo mundo", disse o professor Robert Geraci, que estuda religião e tecnologia no Knox College. "Para ocupar esse novo mundo, você precisa ter um novo corpo glorioso que triunfe sobre o mal que todos nós experimentamos."

Geraci percebeu pela primeira vez o uso de linguagem apocalíptica para descrever o potencial da IA no início dos anos 2000. Kurzweil e outros teóricos acabaram por inspirá-lo a escrever seu livro de 2010, "Apocalyptic AI: Visions of Heaven in Robotics, Artificial Intelligence, and Virtual Reality" (IA apocalíptica: visões do paraíso na robótica, inteligência artificial e realidade virtual).

A linguagem o lembrou do cristianismo primitivo. "Só que vamos tirar Deus e colocar... suas leis científicas cósmicas preferidas que supostamente fazem isso e, então, teremos o mesmo tipo de futuro glorioso pela frente", disse ele.

Geraci argumenta que esse tipo de linguagem não mudou muito desde que ele começou a estudá-la. O que o surpreende é como ela se tornou tão difundida.

"O que antes era muito estranho está em toda parte", disse ele.

Será que o Vale do Silício finalmente encontrou seu Deus?

Um fator no crescente culto à IA é a lucratividade.

"Vinte anos atrás, essa fantasia, verdadeira ou não, não estava realmente gerando muito dinheiro", disse Geraci. Agora, porém, "há um incentivo financeiro para Sam Altman dizer que a AGI está prestes a acontecer".

Mas Geraci, que argumenta que o ChatGPT "não é nem remotamente, vagamente, plausivelmente consciente", acredita que pode haver mais coisas impulsionando esse fenômeno.

Historicamente, o mundo da tecnologia é notoriamente desprovido de religião. Sua reputação secular era tão conhecida que um episódio da série de comédia satírica da HBO, "Silicon Valley", gira em torno da "revelação" de que um colega de trabalho é cristão.

Em vez de ver a veneração cética do mundo da tecnologia pela IA como irônica, Geraci acredita que elas estão causalmente ligadas.

"Nós, seres humanos, somos profunda e inerentemente religiosos", disse ele, acrescentando que as impressionantes tecnologias por trás da IA podem atrair as pessoas do Vale do Silício que já deixaram de lado "abordagens comuns à transcendência e ao significado".

Nenhuma religião está isenta de céticos

Nem todos os CEOs do Vale do Silício se converteram — mesmo que queiram entrar na tecnologia.

"Quando as pessoas da indústria de tecnologia falam sobre construir essa única IA verdadeira, é quase como se pensassem que estão criando Deus ou algo assim", disse o CEO da Meta, Mark Zuckerberg, em um podcast no ano passado, enquanto promovia o empreendimento de sua empresa na IA.

Embora teorias transhumanistas como a de Kurzweil tenham se tornado mais difundidas, elas ainda não são onipresentes no Vale do Silício.

"O argumento científico para isso não é de forma alguma mais forte do que o argumento para uma vida após a morte religiosa", argumenta Max Tegmark, físico e pesquisador de aprendizado de máquina no Instituto de Tecnologia de Massachusetts.

Assim como Hinton, Tegmark tem se manifestado abertamente sobre os riscos potenciais da IA não regulamentada. Em 2023, como presidente do Future of Life Institute, Tegmark ajudou a liderar uma carta aberta pedindo que laboratórios poderosos de IA "pausassem imediatamente" o treinamento de seus sistemas.

A carta reuniu mais de 33 mil assinaturas, incluindo as de Elon Musk e do cofundador da Apple, Steve Wozniak. Tegmark considera que a carta foi bem-sucedida porque ajudou a "popularizar a conversa" sobre a segurança da IA, mas acredita que seu trabalho está longe de terminar.

Com regulamentações e salvaguardas, Tegmark acredita que a IA pode ser usada como uma ferramenta para fazer coisas como curar doenças e aumentar a produtividade humana. Mas é imperativo, argumenta ele, ficar longe da corrida "bastante marginal" que algumas empresas estão realizando — "a busca pseudorreligiosa para tentar construir um Deus alternativo".

"Há muitas histórias, tanto em textos religiosos quanto, por exemplo, na mitologia grega antiga, sobre como, quando nós, humanos, começamos a brincar de ser deuses, isso termina mal", disse ele. "E sinto que há muita arrogância em São Francisco no momento."