Especialistas apontam que o alarde sobre a perda de controle da IA e os riscos à humanidade oculta estratégias comerciais e geopolíticas de gigantes como OpenAI e Anthropic. Sem respaldo científico, o discurso visa valorizar essas empresas antes do IPO, influenciar regulações favoráveis, conter a concorrência chinesa e criar um mercado lucrativo para suas próprias soluções de cibersegurança, resultando em aceleração das tecnologias sob a fachada de governança em vez de freios reais.
O medo de perder o controle da inteligência artificial (IA) durante a corrida para criar tecnologia de ponta foi propagado por um ex-pesquisador da Anthropic, chamado Jacob Coxon, reconhecido pelo próprio CEO da empresa, Dario Amodei, e também por Sam Altman, CEO da OpenAI. No entanto, em um acordo assinado na Casa Branca, as empresas descartaram o ritmo coordenado de desenvolvimento da IA a fim de evitar riscos.
Na visão de especialistas ouvidos pelo Estadão, todo o caso está ligado, principalmente, a três interesses: aumentar o valor de mercado das plataformas de IA antes da oferta pública de ações (IPO) de Anthropic e OpenAI; buscar uma regulação favorável ao mostrar que a tecnologia, de tão poderosa, é indispensável; e fomentar um mercado para a venda de plataformas de cibersegurança para empresas que temem a perda do controle da IA.
Em 28 de setembro, um dia antes do encontro na Casa Branca, a Nvidia lançou a Open Agent Safety Platform. A solução combina o OpenShell, sistema de controle de permissões que delimita o acesso de cada agente, com o Sentry, uma camada de vigilância que pode isolar, em milissegundos, agentes de IA que tentem ultrapassar seus limites. Mais de cem parceiros aderiram à plataforma, entre eles Anthropic, Microsoft, Oracle e SpaceXAI.
A OpenAI ficou fora da lista de parceiros. Mas, no dia seguinte, Altman anunciou que a OpenAI estava criando uma plataforma equivalente e apresentou o OpenAI Private Intelligence, voltado a dar às empresas maior controle sobre seus próprios dados. A Anthropic, por sua vez, já transformou esse tipo de controle em produto comercial com o Claude Managed Agents, que permite às empresas acompanhar o que cada agente está fazendo, enquanto a integração com a camada da Nvidia acrescenta mais governança sobre hardware e software.
Para Kenneth Corrêa, professor de MBAs na FGV, existe relação entre o temor disseminado pelas empresas de IA e o interesse em vender soluções voltadas ao mercado de cibersegurança. "O mesmo trimestre em que o setor declarou publicamente que perdeu o controle sobre agentes autônomos é o trimestre em que ele começou a vender o produto que restaura esse controle. Não há cinismo nisso. Quem vende o cofre precisa que você acredite no ladrão. Quem opera a estrada também cobra o pedágio, e a segurança é a faixa onde a margem é maior, porque ninguém negocia preço de cofre", afirma.
Corrêa diz que o acordo assinado pelas empresas de IA na Casa Branca, na prática, vai funcionar como uma barreira de entrada para novos competidores, uma vez que pressupõe um custo de conformidade com as práticas que as patentes ligadas aos modelos de IA (chamada pelo governo americano de "super inteligência") nunca ofereceram.
"O acordo pegou a parte politicamente vendável da proposta (avaliador externo independente) e descartou o resto: ritmo coordenado, gatilhos obrigatórios, verificação internacional e qualquer limite vinculante de capacidade. Trump chamou o documento de 'moralmente vinculante', o que em Direito significa não vinculante. O que saiu de lá não é desaceleração. É aceleração auditada", afirma.
A visão é compartilhada por Gary Marcus, professor do Departamento de Psicologia da Universidade de Nova York. Em seu Substack, escreveu que os CEOs das empresas de IA se acovardaram da pauta de desacelerar o desenvolvimento da IA. "Lendo o acordo nas entrelinhas: concordamos em não ser regulados, não concordamos em dar voz ao público e confiem em nós", escreveu.
Pedro Cortella, professor do hub de canais digitais da ESPM, diz que o momento atual no mercado de IA deve ser interpretado tanto como estratégia comercial para valorizar as empresas americanas, mas também como disputa geopolítica.
"Na prática, os modelos mais poderosos não são os que estão sendo mais utilizados. No último ano, de acordo com dados de gateways como Open Router e Vercel, a maior parte das empresas que estão utilizando IA em suas operações diárias, quase 70%, opta por modelos chineses, que são bem mais baratos. Esse é o dado que mais importa, o da adoção prática, não quem tem o modelo de ponta", afirma Cortella.
O especialista acredita que a propagação de conteúdos ligados ao grande poder e risco de perda de tecnologia da IA ajuda a valorizar as donas de plataformas de IA, como Anthropic e OpenAI — duas grandes empresas com avaliação trilionária que ainda não são lucrativas.
Faltam evidências para mostrar riscos da IA
As declarações sobre o risco da perda de controle da IA, o que pode levar ao que foi chamado de extinção da humanidade, geraram questionamentos globalmente. Anderson Soares, diretor de IA do AI Brasil, comunidade para democratizar a tecnologia no País, e presidente do conselho de administração do Centro de Excelência de IA (CEIA), diz que faltam evidências que comprovem o risco de perda de controle da IA. Por isso, não há consenso científico sobre o tema. Ele descarta também crenças ligadas ao desenvolvimento de consciência na tecnologia, trama comum de histórias de ficção científica.
"Não há qualquer evidência de consciência, mas sim de comportamentos inesperados. É equivalente a você pisar no acelerador de um carro e ele frear em vez de acelerar. É diferente de o carro tomar o controle da direção", diz.
Soares acredita também que as alegações estejam ligadas aos interesses das empresas em demonstrar o potencial das plataformas de IA ao mercado e em vender soluções de segurança. "Dizer que o produto é tão poderoso que é perigoso é uma forma marqueteira de dizer que ele é muito bom", afirma Soares.
