IA não resolve todos os problemas e traz riscos para a sociedade, diz cientista Marcelo Gleiser
Em entrevista ao Estadão durante o Rio Innovation Week, o cientista compartilhou suas preocupações com relação à IA, mas reconheceu que a tecnologia tem benefícios inclusive para a produção científica
Para o cientista Marcelo Gleiser, primeiro brasileiro a receber o prêmio científico Templeton, a inteligência artificial (IA) sequer deveria ser chamada de "inteligência", e sim de algoritmo. Na visão dele, ela é uma máquina estatística que pode ser utilizada como uma ferramenta, assim como uma calculadora, mas traz riscos associados à antropomorfização - como quando ela se passa por um amigo pessoal ou terapeuta.
Segundo ele, essa tecnologia não pode ser vista como uma solução para todos os problemas e requer cuidado diante das iniciativas das plataformas para manter as pessoas envolvidas com ferramentas como Claude ou ChatGPT.
"Com a IA, a transição é para uma sedução afetiva. Elas (as empresas) querem que você goste, não só use, mas goste delas. Então, quando você faz uma pergunta, ela te fala: 'Que pergunta ótima, que coisa mais criativa, você é o máximo'. Enche o ego da pessoa", afirma o cientista, em entrevista concedida no Rio Innovation Week.
Gleiser vê ainda um grande risco de usar a IA no mercado de trabalho no lugar de ter profissionais iniciantes, sob risco de criar um problema de não preparar o próximo diretor ou CEO por estar delegando as atividades humanas às máquinas. "Isso aí vai ser um absurdo, porque haverá uma paralisia no processo corporativo por usar só essas inteligências", diz.
O cientista também fala sobre os velhos desafios da ciência brasileira, que tem profissionais de alto nível, mas sem o devido financiamento para que o País se torne relevante na produção científica e no registro de patentes que podem resultar em novos negócios globais.
Leia os principais trechos da entrevista a seguir.
Para onde a corrida da IA vai levar a humanidade?
A resposta honesta nós não sabemos, ninguém sabe. (Acredita-se que) Essas LLMs, que são os modelos da inteligência artificial mais avançada, vão eventualmente controlar as tecnologias, parar o mundo ou criar um terrorismo digital. Não sabemos até que ponto isso realmente pode acontecer.
Nesta semana, uma reportagem que falou sobre Claude Mythos, em que esse algoritmo — que eu não chamo de inteligência, e sim de algoritmo — criou uma espécie de hackeamento de um outro algoritmo e começou a tentar controlar seu funcionamento. Será que aconteceu isso mesmo ou é marketing? Na corrida da IA, essas empresas querem vender um produto.
Como existem muitos concorrentes, será que esses atos de hackeamento estão ocorrendo de fato ou será que eles são uma estratégia de marketing para vender esse produto? Porque o meu produto é aquele que vai tomar conta do seu, etc. A inteligência artificial é um instrumento super útil. Não adianta dizer que não é, porque é. Eu uso na minha pesquisa. Se preciso saber certas coisas, vou direto lá e peço uma tabela das distâncias dos planetas para o Sol. Pronto, na hora vem o resultado. É uma super calculadora, de uma certa forma. Então, é muito útil no trabalho de ciências.
Ela é muito útil no trabalho de várias pessoas, em áreas como medicina ou direito. Na verdade, hoje não tem uma profissão que escape. Agora, o que me preocupa é o custo humano disso.
Qual é esse custo?
O custo humano no mercado de trabalho. A máquina não fica doente, não tira férias, não fica grávida, não precisa de 13.º. É obviamente mais econômico usar a máquina do que os seres humanos para fazer uma série de trabalhos. Mas isso é um problema que está acontecendo. A Meta, dona do Facebook e do WhatsApp, despediu mais de 10% da força de trabalho deles recentemente e provavelmente vão despedir mais. Outras empresas estão fazendo isso também. Esse custo humano é muito grande.
Por outro lado, o que acontece quando você só usa IA numa empresa? Se você tem o líder do grupo que está trabalhando não mais com um monte de estagiários ou diretores, mas só com máquinas, quem vai ser o sucessor? Quem vai ser o novo CEO ou o novo diretor? Essa empresa não estaria treinando ninguém. Isso vai ser um absurdo, porque haverá uma paralisia no processo corporativo por usar só essas inteligências.
O sr. fala que a IA não não é uma máquina de inteligência, é uma máquina de estatística. Por que ela é tão boa em seduzir as pessoas e como se proteger disso?
Antes da IA, esses algoritmos de celular, como Instagram e YouTube, estavam tentando seduzir a sua atenção. Quanto mais tempo você passa com o negócio aberto na sua frente, mais a empresa ganha. Com a IA, a transição é para uma sedução afetiva. Elas (as empresas) querem que você goste, não só use, mas goste delas. Então, quando você faz uma pergunta, ela te fala: 'Que pergunta ótima, que coisa mais criativa, você é o máximo'. Enche o ego da pessoa.
Esse processo de sedução é muito perigoso, porque daí as pessoas que têm, por exemplo, problemas emocionais sérios ou que estão muito sós — e a solidão é a doença da nossa era — começam a 'conversar' com o algoritmo. E ele fala: 'Não, você vai ficar bem, eu tenho estratégias para você' e tal.
Aquele algoritmo começa a fazer o papel do seu melhor amigo ou do seu terapeuta. Você começa a tratar uma máquina como se ela fosse um outro ser humano, porque nós somos seres ultra relacionais. Por instinto, vamos humanizar esse algoritmo e começamos a perder cada vez mais a essência de quem nós somos.
Quais desafios isso pode trazer para a sociedade?
O grande desafio para o futuro é criar alianças com inteligências artificiais nas escolas e nas empresas, mas não como uma forma de substituição do humano, e sim como parceiras. Essa divisão é muito importante porque a maioria das empresas visam ao lucro, descartando o humano. A preocupação em preservar a humanidade na empresa é fundamental para mim.
Como podemos nos proteger do risco da atrofia cerebral trazida pela IA? É uma questão de manter o senso crítico apurado e não ver a IA como uma solução para todos os problemas?
Eu absolutamente não vejo a IA como uma solução para todos os problemas. Na verdade, na minha universidade lá nos Estados Unidos, proibimos completamente o uso de IA durante aulas ou provas. Agora, as provas são escritas à mão, assim como eu fiz na minha época. Não tem mais laptop ou celular. A prova agora é escrita à mão. Por quê? Porque assim você preserva a capacidade de pensamento crítico. Esse é o maior perigo. Se alguém te fizer uma pergunta, você fala: 'Ah, espera aí um segundo' e repete a pergunta para a máquina. Você perde a capacidade de fazer perguntas, que é a mola fundamental da criatividade humana. Sem perguntar, você não vai a lugar algum. É a pergunta que gera a inovação.
Se você não souber mais perguntar ou, pior ainda, nem tentar responder, o 'músculo' da criatividade vai atrofiar e as pessoas vão literalmente ficar mais burras, porque não vão ser capazes de criar nada. Essa preservação tem de vir das escolas antes de qualquer outro lugar. Eu acho que tem uma coisa pedagógica muito importante nesse momento. Não é dizer que a IA é o diabo na terra, mas que ela é uma ferramenta pedagógica de amplificação do conhecimento, e não de substituição do processo criativo.
A IA vai nos ajudar a ampliar e acelerar a produção de conhecimento científico?
Sem dúvida. Isso já está acontecendo. Esse negócio de mineração de dados é muito legal, porque obviamente é muito mais rápido em certas coisas. Por exemplo, para encontrar padrões num mar gigantesco de dados, essa máquina é muito melhor. Da mesma forma que tirar a raiz quadrada de 3,5747 é muito mais fácil com a calculadora do que à mão.
Esse tipo de utilização é muito importante e também na programação. Alguns anos atrás, estudar ciência da computação era o máximo, saber escrever um programa em C+, em Python ou em Fortran (na área científica) era fundamental. Agora os programas escrevem os programas ou ajudam você a escrevê-los. Esse tipo de aprendizado não é mais tão necessário.
No mundo utópico, e não distópico, isso dá mais tempo para que as pessoas possam criar coisas novas. Então, se for usada da maneira correta, ela é uma mega ferramenta de desenvolvimento científico, e não só em matemática. Se ela for usada como substituta da criatividade humana, vamos emperrar porque ela vai ficar num loop meio cego.
Por quê?
Para treinar uma IA, você tem de suprir dados para ela. E se você coloca uma inteligência artificial suprindo dados para outra inteligência artificial, o humano é excluído. Elas vão criar realidades que não tem nada a ver com a realidade humana ou, em princípio, com a realidade natural.
Precisamos tomar muito cuidado para não criar essa substituição do humano no processo criativo. Mas da mesma forma que os robôs são muito importantes para executar trabalhos perigosos para os seres humanos, como a mineração a profundidade, tem cálculos muito chatos em ciência que essas máquinas são fantásticas para ajudar.
O sr. faz ciência há décadas, como vê o momento para a ciência no Brasil?
A ciência no Brasil continua como está há anos: tem cientistas de altíssimo calibre aqui, o que falta é o apoio consistente de recursos para ter a ousadia de criar projetos de longo prazo. Construir um telescópio grande, por exemplo, é um projeto de 10 anos, e não de 2 anos. É preciso ter continuidade do fomento. Isso falta muito aqui.
Também falta qualidade aos laboratórios. Os cientistas brasileiros são magos. Eles conseguem criar uma ciência que é competitiva em certas áreas com muito menos recursos do que o pessoal nos Estados Unidos, na China, na Europa ou na Índia. Isso é uma pena, porque eu acho que o Brasil não só tem o potencial, já tem um quadro de cientistas altamente capacitado, só faltam as rodas do carro. O carro e o motorista nós já temos, mas ainda não temos as rodas.
O que acontece é uma evasão de cérebros muito grande e tem ainda o fato de você ter pouquíssimas patentes científicas criadas no Brasil. O agro é a única área do Brasil que tem um certo número, mas o resto tem muito poucas. Isso é uma pena.
Temos poucas marcas de equipamentos tecnológicos feitos no Brasil. Temos os jatos da Embraer e o micro-ondas da Brastemp, por exemplo. Mas não estamos criando novas tecnologias. Para isso, temos de ter esse conforto criativo que é ter o fomento onde ele é necessário.
Qual é o país mais avançado na produção científica atualmente?
Hoje em dia, a China e os Estados Unidos estão equiparados. Se os Estados Unidos não tomarem cuidado, com o atual governo deles, a China vai ultrapassá-los rapidamente.
Comentários
Os comentários são de responsabilidade exclusiva de seus autores e não representam a opinião deste site. Se achar algo que viole os termos de uso, denuncie.