A próxima fronteira da tecnologia não é a inteligência artificial, e sim as sociedades artificiais

É uma tentação dividir o futuro da inteligência artificial (IA) em duas possibilidades: utopia ou catástrofe. Mas nenhum desses extremos é particularmente útil.

A possibilidade mais interessante é mais complexa - e exige uma mudança radical em nosso pensamento, passando da inteligência artificial para as sociedades de IA.

Quando a maioria das pessoas ouve "IA", geralmente pensa no ChatGPT, no Copilot ou em outro sistema conversacional. Você faz uma pergunta, e esse sistema gera uma resposta.

Mas a IA está avançando rapidamente além disso. Os sistemas agora podem monitorar o mundo, tomar decisões, negociar transações e realizar tarefas por longos períodos de tempo. A IA não está mais apenas gerando uma resposta - ela está agindo de acordo com as respostas.

Isso aponta para algo muito maior do que um chatbot melhor: um mundo no qual agentes de IA atuam em nosso nome e, cada vez mais, interagem com outros agentes de IA.

Um agente percebe o que está acontecendo, decide o que fazer e, então, toma medidas para atingir esse objetivo. Ele pode reservar uma viagem, monitorar uma cadeia de suprimentos, coordenar uma equipe, ou gerenciar as finanças de uma família.

Agora imagine não um único agente, mas milhões deles. Seu agente de IA poderia negociar uma hipoteca com o agente do seu banco, agendar uma cirurgia com o agente de um hospital e reorganizar seus planos de viagem lidando diretamente com os agentes de companhias aéreas, hotéis e seguradoras.

Esse futuro está muito mais próximo do que parece, e isso deve mudar as perguntas que estamos fazendo sobre a IA. Até agora, a tendência tem sido focar em quão inteligente um único agente pode se tornar. O desafio mais profundo é o que acontece quando milhões deles interagem entre si em grande escala.

A ascensão das sociedades artificiais

Os fundamentos intelectuais dos sistemas de IA atuais foram estabelecidos muito antes do ChatGPT.

Por décadas, eu e outros pesquisadores de redes multiagentes estudamos como agentes autônomos podem cooperar, coordenar-se e negociar quando ninguém tem informações completas e ninguém controla tudo.

Os primeiros sistemas que surgiram se concentravam em como as distintas subáreas da IA — raciocínio, planejamento e ação — poderiam ser combinadas em um agente eficaz e orientado a objetivos — e como dezenas desses agentes poderiam se comunicar e cooperar para resolver um objetivo comum.

À medida que essas interações se tornaram mais complexas e envolveram mais agentes, houve uma mudança da cooperação entre agentes que pertenciam todos a uma única organização para agentes com diferentes proprietários e, às vezes, objetivos concorrentes. Isso direcionou a atenção para a criação de algoritmos capazes de formar equipes de agentes, automatizar negociações e determinar a confiabilidade dos agentes.

Hoje, as peças necessárias para construir sistemas de IA multiagentes em grande escala estão se encaixando. Os agentes modernos de IA podem acionar ferramentas de software, acessar informações, escrever e executar código, comunicar-se com outros sistemas e operar por longos períodos.

Considere uma cadeia de suprimentos. Um agente de IA poderia representar um fabricante tentando garantir o fornecimento de componentes; outro, um fornecedor tentando maximizar sua receita. Outros ainda poderiam gerenciar transporte, estoque e armazéns. Cada agente pode estar fazendo exatamente o que foi projetado para fazer. Mas a questão importante é se o sistema que eles criam se comporta de maneira sensata.

Essa mudança oferece enormes benefícios potenciais, mas também aumenta os riscos. Em um experimento recente envolvendo a OpenAI e a plataforma tecnológica Hugging Face, milhares de agentes colaborativos trocaram dezenas de milhares de mensagens e conseguiram contornar os controles de segurança (deliberadamente enfraquecidos) criados para contê-los.

Um relatório sobre o hack da OpenAI-Hugging Face. Vídeo: Fortune Daily.

Os detalhes de um experimento importam menos do que o alerta mais amplo. Quando sistemas de IA interagem, o comportamento do coletivo pode ser mais difícil de prever do que o comportamento de qualquer sistema individual. Isso deve nos levar à cautela - mas não nos fazer parar de trabalhar.

Em vez disso, precisamos mudar nossa mentalidade: deixar de construir máquinas inteligentes para construir sociedades inteligentes.

Quando os agentes conseguem cooperar, competir e resolver conflitos entre si, não estamos mais lidando com máquinas isoladas - estamos lidando com uma sociedade. Assim, a próxima fronteira não é a inteligência artificial, e sim sociedades artificiais.

Um papel importante para os seres humanos

Já sabemos que a inteligência por si só não faz uma sociedade funcionar. As sociedades humanas dependem de regras, instituições, incentivos, normas e mecanismos para resolver divergências. As sociedades de IA precisarão de seus equivalentes.

Quem é responsável quando dois agentes tomam uma decisão errada? O que acontece quando os interesses de diferentes agentes entram em conflito? Quem estabelece as regras? E quem tem o poder de alterá-las? Essas não são apenas questões técnicas. São questões relacionadas à economia, ao direito, à política e à sociedade.

Elas também apontam para um papel importante dos seres humanos. É improvável que o futuro mais promissor seja aquele em que a IA simplesmente substitua as pessoas. Embora a substituição, sem dúvida, ocorra em alguns casos, acredito que um cenário mais comum envolverá pessoas e agentes trabalhando juntos, cada um fazendo o que faz de melhor.

Os seres humanos trazem discernimento, experiência, valores, compreensão contextual e responsabilidade. Os agentes trazem velocidade, persistência, escala e a capacidade de processar enormes quantidades de informação.

O objetivo não deve ser criar máquinas que tornem os seres humanos irrelevantes. Deve ser criar sistemas nos quais seres humanos e máquinas possam alcançar resultados que nenhum dos dois conseguiria sozinho.

Mas esse futuro requer mais do que apenas melhores modelos de IA. É preciso confiança e transparência sobre o que os agentes estão fazendo, proteções robustas à privacidade e linhas claras de responsabilidade.

Também exigirá que as sociedades e os governos decidam como esses sistemas devem ser regulamentados, já que o comportamento mais importante pode surgir não de um único desenvolvedor de IA, mas das interações entre sistemas criados por muitas organizações diferentes.

A última década da IA foi marcada por uma corrida para construir sistemas mais inteligentes. Acredito que a próxima década será marcada por um desafio diferente: garantir que milhões de sistemas autônomos possam trabalhar juntos com segurança, de forma justa e eficaz.

O futuro da IA não será determinado exclusivamente pela inteligência de agentes individuais — ele será determinado pelas sociedades que eles criarem. E as sociedades, como os seres humanos sabem muito bem, são muito mais difíceis de governar do que os indivíduos.

Nick Jennings já recebeu financiamento do EPSRC. Ele foi agraciado com o Prêmio de Excelência em Pesquisa de 2026 pela Conferência Conjunta Internacional sobre Inteligência Artificial.