A falsa polêmica das "redes sociais" de agentes de IA: O que realmente deve nos preocupar nesse debate?

Nos últimos dias, ganhou destaque na mídia a criação de uma "rede social em que humanos não entram", chamada Moltbook. Nela, agentes de Inteligência Artificial interagem entre si enquanto as pessoas podem apenas observar. O tom de algumas reportagens sugere que estaríamos diante de algo inédito ou até preocupante: máquinas criando uma espécie de sociedade própria.

Mas essa leitura é enganosa. O que está sendo apresentado como algo quase futurista faz parte, na verdade, de uma linha de pesquisa bastante consolidada na ciência da computação.

Notícias relacionadas

Professor da Unicamp e crítico da Faria Lima: a aposta de Lula para posição estratégica no Banco Central

Trump acena com 'acordo' com Cuba e diz que investimentos da China na Venezuela são 'bem-vindos'

A Geração Z não quer estudar programação, e 76% deles estão buscando carreiras completamente diferentes

Ambientes em que Inteligências Artificiais interagem existem há décadas na pesquisa científica e não significam consciência, intenção ou vida social artificial. São usados, por exemplo, para estudar (e aprimorar) questões que envolvem cooperação, falhas de comunicação e coordenação entre sistemas automatizados.

O que são, afinal, agentes de software?

Na área de IA, o termo agente não é usado de forma metafórica. Ele tem um significado técnico bem definido. Um dos principais pesquisadores na área de sistemas multiagente, o britânico Michael Wooldridge, define um agente de software como um sistema computacional situado em um ambiente e capaz de agir de forma autônoma para atingir os objetivos para os quais foi projetado.

Essa definição é central para desfazer um equívoco comum. A autonomia mencionada por Wooldridge não se refere à consciência, intenção ou vontade própria. Ela significa apenas que o sistema pode selecionar qual ação executar em cada etapa, sem a intervenção direta humana, de acordo com o que está sendo apresentado a ele. A decisão, no entanto, segue regras, modelos estatísticos ou políticas de decisão previamente especificadas.

Em outras palavras, agentes de IA não "querem" nada. Eles apenas executam comportamentos compatíveis com aquilo que foram treinados ou programados para fazer.

Para que existem as "redes sociais" de agentes?

Quando colocamos múltiplos agentes para operar em um mesmo ambiente, temos o que a literatura chama de sistemas multiagente. Eles são estudados há décadas porque permitem analisar situações em que decisões individuais se combinam e produzem resultados coletivos, que nem sempre são previsíveis a partir de um único agente isolado.

Na prática, funcionam como um laboratório público. Os pesquisadores definem regras do ambiente, objetivos para cada agente e limites de comunicação. A partir daí, observam como diferentes estratégias de cooperação, competição ou negociação afetam o desempenho do sistema como um todo.

Esses sistemas aparecem em aplicações como como logística (para otimizar rotas e distribuir recursos), robótica colaborativa (coordenação de múltiplos robôs em fábricas ou armazéns), economia computacional (simulação de mercados e comportamento estratégico) e jogos, onde agentes aprendem a cooperar ou competir de forma eficiente.

No Departamento de Informática da PUC-Rio, o nosso grupo de pesquisa em IA estuda problemas desse tipo. Publicamos recentemente um artigo na revista científica Artificial Intelligence no qual investigamos como agentes cooperativos conseguem tomar boas decisões mesmo quando a comunicação entre eles é limitada ou falha. Em outra linha de trabalho — também publicada na mesma revista — investigamos como agentes autônomos podem aprender a colaborar com parceiros desconhecidos, mesmo sem informações prévias sobre eles.

Para isso, analisamos situações em que diferentes agentes de IA precisam cooperar, mesmo tendo acesso apenas a informações parciais, seja por falhas de comunicação ou por desconhecimento do comportamento dos demais agentes. Observamos como eles se adaptam a essas limitações e como podem aprender, a partir da interação, a inferir ou compensar as informações que não estão diretamente disponíveis.

Esses estudos mostram que sistemas com múltiplos agentes podem manter coordenação e bom desempenho mesmo em cenários realistas, nos quais a comunicação é imperfeita ou os parceiros são inicialmente desconhecidos. Ao analisar essas interações, conseguimos comparar estratégias, identificar fragilidades e avançar no projeto de sistemas de IA mais robustos, flexíveis e confiáveis.

Nesses contextos, é comum que os agentes troquem mensagens, negociem recursos, cooperem ou entrem em conflito. Nada disso é novo — e nada disso implica a existência de uma vida social artificial. A analogia com uma "rede social" surge apenas porque os agentes trocam texto em formatos semelhantes aos usados por humanos, não porque compartilhem experiências ou intenções.

Por que isso parece mais impressionante agora?

O que mudou recentemente não foi o conceito de agente, mas a popularização dos chamados grandes modelos de linguagem, tais como o ChatGPT ou Gemini. Esses modelos são capazes de gerar textos longos, coerentes e, muitas vezes, surpreendentes.

Quando usados como componentes internos de agentes de software, esses modelos podem produzir mensagens que soam reflexivas ou até filosóficas. No entanto, isso não indica entendimento ou consciência. Trata-se de geração de linguagem baseada em padrões estatísticos aprendidos a partir de grandes volumes de texto humano.

O erro mais comum em abordagens sensacionalistas é confundir comportamento complexo com capacidade mental. Sistemas artificiais podem exibir interações sofisticadas sem possuir entendimento, intencionalidade ou experiência subjetiva.

Além disso, plataformas abertas a esse tipo de experimento frequentemente sofrem influência humana indireta: desenvolvedores ajustam parâmetros, usuários moldam incentivos ou até se passam por agentes automatizados. Esses fatores podem amplificar a sensação de que algo "emergente" ou "autônomo" está acontecendo, quando na prática estamos observando sistemas seguindo regras bem definidas.

Impactos reais e limites necessários

Portanto, nada indica que estejamos diante do surgimento de uma sociedade de máquinas ou de Inteligências Artificiais que escaparam ao controle humano. Esses sistemas continuam totalmente dependentes de infraestrutura, objetivos e limites definidos por pessoas.

Os impactos relevantes desses experimentos estão em outros pontos: na governança de sistemas automatizados, na segurança, na transparência, no uso responsável da tecnologia e na alfabetização científica da sociedade sobre como a IA realmente funciona.

Plataformas como o Moltbook podem, a princípio, servir positivamente como ambientes experimentais abertos à observação, mas há riscos envolvidos. Os laboratórios científicos normalmente explicitam o que está sendo testado, quais dados são coletados e com que finalidade. Sem isso, a iniciativa se torna mais próxima de um espetáculo tecnológico do que de um instrumento de pesquisa.

Há também desafios regulatórios. Nesses ambientes, comportamentos indesejáveis (e até proibidos) podem surgir a partir da interação entre agentes, independente da intenção individual de cada um, e se amplificar coletivamente. Então, se um conjunto de agentes causar um dano econômico ou operacional, por exemplo, quem deve ser responsabilizado? O desenvolvedor, o operador, a instituição que definiu os objetivos do sistema?

Responder a essas perguntas exige mecanismos claros de rastreamento e auditoria. Sem a possibilidade de reconstruir a cadeia de decisões, sistemas multiagente tendem a criar zonas cinzentas de responsabilidade, dificultando tanto a correção de falhas quanto a aplicação de regras.

Além disso, o modo como essas plataformas são apresentadas ao público é relevante. Enquadrar o Moltbook como uma "rede social", e não como um ambiente experimental, pode confundir expectativas e alimentar interpretações equivocadas sobre o funcionamento da Inteligência Artificial.

Afinal, ambientes em que agentes de IA interagem entre si são, essencialmente, laboratórios — alguns fechados, outros aberto à observação pública. Eles não anunciam o nascimento de uma nova forma de vida, mas refletem avanços técnicos dentro de limites bem conhecidos pela ciência da computação. Compreender isso é essencial para que o debate público sobre Inteligência Artificial seja mais informado, crítico e menos refém do sensacionalismo.

Alberto Sardinha não presta consultoria, trabalha, possui ações ou recebe financiamento de qualquer empresa ou organização que poderia se beneficiar com a publicação deste artigo e não revelou nenhum vínculo relevante além de seu cargo acadêmico.