BOSTON - A inteligência artificial está transformando a forma como nos comunicamos, acessamos informações e trabalhamos, como a renda e o status são distribuídos e até mesmo como travamos guerras. No entanto, o debate público continua restrito à competição entre laboratórios de IA ou a discussões abstratas sobre as capacidades da tecnologia. Quase ninguém se pergunta qual deve ser o propósito da IA, ou se nossa mentalidade atual, nossas instituições e nossos mecanismos de controle são capazes de orientar a tecnologia para melhorias generalizadas no bem-estar humano.
Foi, portanto, revigorante ver o papa Leão XIV abordar o assunto em sua primeira encíclica, que descreve a trajetória atual da IA como uma profunda ameaça à dignidade humana. Como economista que há muito argumenta que os resultados impulsionados pela tecnologia são questões de escolha, não de destino, saúdo sua intervenção.
Leão está à frente da maioria dos comentaristas ao apontar que "a tecnologia nunca é neutra, porque assume as características daqueles que a concebem, financiam, regulamentam e utilizam". No entanto, receio que nem mesmo ele tenha ido longe o suficiente na questão mais importante: para que a IA deveria ser projetada?
Como Simon Johnson e eu destacamos em nosso livro Poder e Progresso: Uma Luta de Mil Anos entre a Tecnologia e a Prosperidade, existem múltiplos caminhos que uma tecnologia como a IA pode seguir, e cada um deles tem implicações de longo alcance para a sociedade. Por exemplo, o papa está certo em questionar a trajetória atual da IA na guerra e na aplicação da lei. O que era tabu há poucos anos - vigilância em massa impulsionada por IA, algoritmos selecionando alvos para assassinato - tornou-se rotina.
Com muitos no Vale do Silício pressionando os Estados Unidos a reforçar seu poderio militar por meio de um novo complexo militar-algorítmico, o papa adverte que "qualquer tecnologia que facilite ataques sem reconhecer o rosto de seres humanos diminui o limiar moral do conflito". Ele então pede o "desarmamento da IA" para libertá-la "da mentalidade de competição 'armada', que hoje não se limita apenas ao contexto militar, mas também é um fenômeno econômico e cognitivo".
Por trás dessas preocupações específicas, há uma reflexão mais profunda: o progresso tecnológico não é necessariamente sinônimo de progresso moral. O fato de algo ser tecnicamente viável não significa que seja benéfico para a humanidade. A conveniência de uma tecnologia depende de quem a controla e da ideologia e dos interesses que orientam esses controladores.
Leão faz uma alusão ao que considero o risco mais imediato: que "embora a IA prometa aumentar a produtividade ao assumir tarefas rotineiras, ela frequentemente obriga os trabalhadores a se adaptarem à velocidade e às exigências das máquinas, em vez de projetar máquinas para trabalhar em conjunto com aqueles que trabalham". Mas o papa não chega a questionar a filosofia de design de IA predominante. Toda a abordagem da indústria de IA está centrada em imitar as capacidades humanas e automatizar tarefas humanas, com o objetivo de criar uma "inteligência artificial geral" capaz de fazer tudo o que uma pessoa pode fazer.
Essa filosofia repousa na suposição equivocada de que a inteligência das máquinas e a inteligência humana são fundamentalmente semelhantes. Os seres humanos aprendem "de uma só vez". Formamos hipóteses a partir de alguns exemplos, simulamos possibilidades em nossas mentes e refinamos nossa compreensão por meio de um processo social de tentativa e erro. Por isso, as crianças aprendem a linguagem imitando algumas palavras,
Em contrapartida, os modelos de IA prosperam com enormes conjuntos de treinamento e se destacam no reconhecimento de padrões em grande escala, mas ainda não demonstraram criatividade genuína. Eles não têm experiência de incorporação no mundo real, nem qualquer capacidade de aprendizagem por tentativa e erro por meio de interações com o mundo físico e social (exceto de forma limitada, quando há recompensas claras para o aprendizado por reforço).
Quando duas coisas são diferentes, não se deve - e, normalmente, não se pode - usar uma para imitar a outra. Os resultados seriam insatisfatórios. Teria sido um erro colossal se Phil Jackson, o lendário técnico do Chicago Bulls na década de 1990, tivesse pressionado Michael Jordan a imitar tudo o que Scottie Pippen e Dennis Rodman faziam. A equipe conquistou um título atrás do outro justamente porque esses jogadores trabalhavam juntos e complementavam as habilidades uns dos outros.
O mesmo se aplica à IA e às habilidades humanas. Usar a IA para fazer o que os humanos não conseguem, de modo que os humanos possam ampliar o que fazem, é mais produtivo do que a imitação. Em um cenário futuro em que a IA aumente, em vez de substituir, as capacidades humanas, eletricistas seriam auxiliados por diagnósticos de IA, enfermeiros consultariam a IA na interpretação de sintomas e professores poderiam usar a IA para personalizar o ensino para cada aluno.
Otimistas e especialistas do setor podem argumentar que a IA com foco na automação ainda pode beneficiar a todos, desde que políticas redistributivas acompanhem o ritmo. Mas esse argumento tem um histórico fraco. Quatro décadas de automação digital já concentraram os ganhos no topo, esvaziaram os empregos de qualificação média e produziram um crescimento agregado da produtividade decepcionante. Há poucos motivos para esperar que uma rodada ainda mais poderosa de automação, implantada por um setor ainda mais concentrado, tenha um desfecho diferente.
E os desafios globais são ainda maiores do que nos Estados Unidos. Para bilhões de pessoas no mundo em desenvolvimento, onde um emprego digno é o único caminho confiável para sair da pobreza, uma agenda de IA centrada na automação é uma receita para o desastre. Podemos e devemos exigir um modelo diferente.
Talvez a maior falha da indústria de IA atual seja sua recusa em reconhecer qualquer uma dessas questões. O punhado de pessoas que está lançando essa tecnologia ao mundo é guiado por uma ideologia de controle (sobre a humanidade) e pela convicção de que as máquinas são, de maneira geral, melhores do que os humanos.
Leão está certo ao clamar por clareza moral e por um debate sério e abrangente em toda a sociedade. Mas a conversa deve ir além da exortação e avançar para escolhas concretas: medidas antitruste contra as plataformas dominantes, investimentos públicos em IA complementar ao ser humano, regulamentação da vigilância e das armas autônomas, e direitos significativos para trabalhadores e cidadãos sobre os dados dos quais esses sistemas dependem.
A intervenção de Leão XIV torna essa resposta um pouco mais provável do que era antes. Mas o resto de nós também deve defender a humanidade.
Copyright: Project Syndicate, 2026. www.project-syndicate.org
