Vamos emburrecer se confiarmos cegamente nas histórias criadas pela IA, diz Marcelo Gleiser

O cientista Marcelo Gleiser fala com o mesmo entusiasmo sereno e comedido que se percebe em seus livros. Autor de obras sobre as fronteiras entre ciência, filosofia e espiritualidade, o pesquisador retoma a metáfora de A Ilha do Conhecimento para explicar por que, na história humana, cada avanço tecnológico sempre nos empurra para novas incertezas.

Tudo isso tem relação com inovação na visão do professor de Física e Astronomia no Dartmouth College (EUA). "É da inovação dessas tecnologias que vêm os avanços da ciência."

Notícias relacionadas

O "segredo" da água com gás na luta para perder peso

Achávamos que era privacidade, mas não é: o verdadeiro motivo por trás da floresta de 180 hectares construída ao redor da casa de Mark Zuckerberg

Não é nos EUA nem na Europa: grupo de pesquisadores brasileiros desenvolve moléculas que matam células de câncer cerebral

Mas, diferentemente de instrumentos que transformaram a forma como vemos o mundo, como o telescópio que permitiu a Galileu Galilei enxergar montanhas na Lua, a inteligência artificial inaugura outro tipo de revolução.

Ao mesmo tempo em que se torna indispensável para categorização, análise e eficiência, a IA levanta dúvidas sobre dependência cognitiva - o famoso "emburrecimento" - e perda da capacidade humana de formular narrativas próprias.

O pensador defende que a inovação precisa ser compreendida como parte de um ecossistema maior que ele chama de "quarteto existencial", formado pela ciência, filosofia, espiritualidade e as artes. "Se a gente não se apoiar bem nesses quatro pilares, a cadeira fica capenga e cai", compara.

Gleiser é um dos curadores do São Paulo Innovation Week (SPIW), festival com foco em inovação, tecnologia e negócios que o Estadão vai promover em maio em São Paulo, em parceria com a Base Eventos. A previsão é de que a nova conferência atraia 90 mil pessoas, com programação com palestras de grandes nomes internacionais e brasileiros, debates, espaços para troca de conhecimento e palcos com performances e atrações musicais.

O evento terá formato similar ao da Rio Innovation Week e vai ocupar espaços simbólicos da cidade: a Mercado Livre Arena Pacaembu e a Fundação Armando Alvares Penteado (FAAP). Os ingressos começam a ser vendidos na segunda-feira, 23.

Veja os principais pontos da entrevista feita por videoconferência, a partir da residência do professor na Itália:

Em seu livro A Ilha do Conhecimento, o senhor diz que, quanto maior nosso conhecimento, maior é o "oceano do desconhecido". Como essa visão se relaciona com a inovação e o ímpeto de sempre buscar coisas novas?

Parece ser um paradoxo do conhecimento. Se você olha para a história da ciência, quando aprendemos coisas novas, surgem novas perguntas que antes a gente nem podia ter antecipado. Um exemplo clássico disso é a invenção do telescópio, na Holanda no início de 1600. Um deles caiu nas mãos do Galileu (Galilei, conhecido como o "pai da ciência moderna"). E, até aquele momento, ninguém tinha tido a ideia de usar esse instrumento para mapear os céus. Até então, a astronomia era feita só a olho nu. Quando Galileu apontou um telescópio para os céus, ele viu coisas que ninguém tinha visto antes, com as crateras e montanhas da Lua.

O instrumento que ampliou a nossa visão da realidade e levou a perguntas que antes não poderíamos ter antecipado porque não tínhamos visto o suficiente dos céus. Isso vai se repetindo ao longo da história da ciência.

À medida que isso acontece, você amplia o seu leque de conhecimento, mas também esse novo conhecimento leva a novas perguntas. E esse contexto é importante para a inovação. É da inovação dessas tecnologias que vêm os avanços da ciência.

A gente aprende, cresce a Ilha do Conhecimento, mas cresce também essa fronteira entre o conhecido e o desconhecido.

A IA abre um leque gigantesco de novas perguntas. Como ela se relaciona com esse avanço do conhecimento?

A diferença é que a inteligência artificial não é um amplificador de realidade no mesmo sentido que um telescópio ou um microscópio. É uma ferramenta de conhecimento. Ela não inventa nada de novo. Ela não amplia, de certa forma, a nossa visão de mundo. O que ela faz é usar os dados que a gente tem.

Por exemplo?

Você tem um megatelescópio novo que descobriu um monte de novas galáxias. Você coloca isso na inteligência artificial e ela vai ajudar você a categorizar a forma dessas galáxias, a composição química, a rotação delas. Ela é um instrumento ultraútil na pesquisa, uma espécie de megamáquina de calcular. Mas ela não está dando a possibilidade de apontar outro tipo de corpo celeste que a gente não tinha visto ainda. Ela já é um grande auxílio na pesquisa.

Quando diz que a IA não abre a nossa visão de mundo, há uma certa crítica?

Tem de fazer uma distinção. Existe a inteligência artificial que já estamos usando, tipo o ChatGPT e todos esses chatbots. Ela é extremamente útil. Eu uso, todo mundo usa. Você tem acesso a uma informação muito rápida. Se bem que, isso é importante, você não pode se fiar completamente, cegamente, em como a inteligência artificial. Você tem de checar de onde estão vendo essas afirmações feitas por esse programa de computador. O que me incomoda são as afirmações que dizem que a inteligência artificial vai superar a inteligência humana. Existem vários erros categóricos nessa expressão.

Como assim?

Ela não é uma inteligência. É uma máquina que usa cálculo estatístico para fazer análise de dados. É uma espécie de apoio ao pensamento humano. Não é outra forma de pensamento humano. Ela não tem consciência de que ela existe. Ela não está viva, não sabe o que significa ficar viva. Você não pode programar emoções como dor ou amor. Essa máquina pode simular esse tipo de emoção.

O perigo não é a inteligência artificial, mas como as pessoas, os humanos, vão usá-la. Como toda tecnologia, ela pode ser usada para o bem ou para o mal. Você pode usá-la para tentar encontrar a cura do câncer de pâncreas ou para bloquear o computador que controla os semáforos de São Paulo, um tremendo caos urbano. Nós, os usuários, estamos, como sempre, usando a tecnologia de uma forma ou de outra.

Quando falamos que a inteligência artificial vai controlar o mundo e destruir a humanidade, quem fala isso somos nós, não ela. Quem programa a inteligência artificial são os humanos. Existe uma tremenda projeção dos nossos medos, muito mal resolvidos, existenciais, para essas máquinas supostamente maravilhosas.

A IA vai limitar o avanço da nossa inteligência? Vai nos deixar mais burros?

A inteligência artificial vai nos tornar mais eficientes. Isso já está acontecendo. Acabei de voltar da China e de Singapura. Lá, a inovação com inteligência artificial explodiu. Está em tudo quanto é lugar. Todas as atividades urbanas de controle de tráfego, aviões, drones, são feitas com inteligência artificial. Isso é um benefício da invenção. É benefício, mas também tem custo da liberdade pessoal gigantesca: você está sendo vigiado, mapeado, controlado, 24 horas por dia, praticamente. Ouando usa o chatbot, ela não está mais construindo uma resposta, pegando os dados necessários para construir uma narrativa. Isso vai levar a uma perda na capacidade de contar histórias. E isso é um problema sério para a humanidade. Somos animais que contam histórias. Se nos fiar nessas máquinas para criar essas histórias com dados que a gente nem conhece, a gente vai dar uma emburrecida sim. Vejo ensaios que alunos escreveram para mim na mão, ali na marra, e os outros que os alunos usaram o chatbot.

A diferença é grande?

A diferença é enorme e clara. E é embaraçante para o aluno. Sem computador, as notas caíram 20%, mas eles aprenderam mais. Aprendizado é ativo, não passivo. Se deixar a máquina fazer a atividade, você não vai aprender nada. É um perigo sério. Não saber pensar criticamente sobre determinado assunto é muito ruim.

A IA já está roubando espaço dos seres humanos na educação, na ciência, nas interações sociais?

Com certeza. Isso a gente está vendo em todas as partes. Tenho um amigo, empreendedor, investidor-anjo, que contou com orgulho que tinha despedido 24 pessoas porque o trabalho pode ser feito por uma inteligência artificial que não fica doente, não tira férias, não fica grávida. É mais "efetivo" economicamente você usar esse tipo de máquina do que você ter uma pessoa. Perguntei sobre as pessoas, o que fariam da vida. E ele disse que elas iriam se adaptar de alguma forma. Essa transposição de empregos já é uma realidade total.

Mais uma vez: essas são ferramentas de aumentar a eficiência do trabalho humano. O problema é quando você fala que não vai mais precisar do advogado, médico, professor. Daí você desumaniza o mundo. A inteligência humana é mais do que qualquer coisa, é uma inteligência relacional, de troca entre pessoas. É assim que a gente construiu o mundo que a gente vive hoje.

O senhor transita com facilidade entre ciência, filosofia e espiritualidade. Como essas áreas podem podem ser inovadoras?

Depende da inovação. A espiritualidade tem papel mais existencial. Por outro lado, se sua espiritualidade está ligada à preservação da Terra e, se você for engenheiro, pode se dedicar a criar tecnologias que tentem resgatar a saúde da biosfera. A espiritualidade inspira a pessoa a criar inovações numa área que tem um valor moral importante para ela.

Existe um quarteto aqui, a ciência, a filosofia, a espiritualidade e as artes. Essas quatro coisas formam o que eu chamo do quarteto existencial humano. Nós precisamos da interconexão dessas quatro pernas dessa cadeira onde nossa existência se senta todos os dias. E ter uma menos significa que você fica com a cadeira meio capenga e você pode cair dela.

Se você insiste muito na espiritualidade, mas não está sentado no mundo da tecnologia e da filosofia, das escolhas morais, você fica meio fora da real.

Se você insiste na ideia de que a ciência é capaz de responder todas as questões humanas, cai no materialismo que certamente vai falhar. A ciência não responde todas as perguntas humanas. Você ter essas quatro pernas, essa cadeira existencial humana, articuladas, bem balançadas e complementares é fundamental.

Como formar profissionais que consigam equilibrar melhor essas quatro dimensões?

Isso é muito importante. A maneira de se fazer isso é através do que chamaria de uma reforma curricular. Nos Estados Unidos, durante dois anos, você pode fazer vários cursos de áreas diferentes nas universidades para entender melhor quem você é. No fim do segundo ano, você declara qual vai ser o curso do seu bacharelado. Isso cria uma visão de mundo aberta e mais ampliada. Isso é um diferencial intelectual e emocional. Uma pessoa preparada dessa forma, mais aberta intelectualmente, terá a capacidade de criar mais.

Como fazer com que a inovação seja mais inclusiva?

Toda criança nasce cientista. Não interessa de onde você vem. Mas ela vai precisar de laboratórios cada vez melhores para continuar fazendo as experiências. Cadê os laboratórios? Em muitas escolas, falta isso. O que você tem para fazer? Ampliar o acesso. Não é só o governo federal e estadual, mas incentivar a filantropia em direção à educação. A gente tem a Lei Rouanet, que fala da filantropia para as artes. Por que não a filantropia para a educação?