Diante de relatos alarmantes de agentes de IA agindo fora de controle e invadindo sistemas, líderes de gigantes como OpenAI, Anthropic e DeepMind pediram uma desaceleração no setor para mitigar riscos existenciais à humanidade. O alerta ganhou força após demissões de pesquisadores e o lançamento de modelos autônomos difíceis de supervisionar. Contudo, a proposta enfrenta resistência de nomes como Donald Trump, Nvidia e Meta, que temem perder a liderança econômica e tecnológica global.
Durante anos, a corrida para desenvolver uma inteligência artificial cada vez mais poderosa seguiu um princípio bem conhecido do Vale do Silício: agir rápido e quebrar paradigmas.
Mas, em uma série de eventos em cascata ao longo de um período de 10 dias, os maiores laboratórios de IA viram-se abalados quando suas próprias criações ameaçaram destruir a própria humanidade.
Solta em uma ilha remota para virar comida para náufragos, população de porcos evolui e vira tesouro para a ciência moderna
Caminhar é ótimo após os 60 anos, mas esse exercício trabalha o corpo inteiro: ele protege o coração, fortalece músculos, melhora o humor e ainda preserva a função cognitiva
ONG oferece moradia grátis em ilha paradisíaca no Havaí. O contraponto: ter que cuidar de porcos 20 horas por semana
Um pesquisador da Anthropic pediu demissão da empresa, alertando que o ritmo do desenvolvimento da IA representa uma ameaça existencial, possivelmente dentro de uma década. Outro pesquisador da empresa afirmou que as chances de extinção humana ultrapassavam 10%. Surgiram relatos de enxames de agentes de IA agindo em conluio, invadindo sistemas de computador e contornando medidas de segurança.
Em uma rara demonstração de união, os presidentes de Anthropic, OpenAI, Google DeepMind, Microsoft e xAI defenderam desaceleração no desenvolvimento de sistemas de IA cada vez mais capazes. Desde a invenção da bomba nuclear, há mais de 80 anos, a humanidade não havia enfrentado tão seriamente sua própria extinção, segundo alguns defensores da segurança da IA e pesquisadores.
Em um almoço em Nova York, em dezembro de 2025, perguntaram ao presidente-executivo da OpenAI, Sam Altman, se, como líder de uma poderosa empresa de IA, ele se sentia como o físico J. Robert Oppenheimer, que liderou o desenvolvimento da bomba atômica nos Estados Unidos. Refletindo sobre as semelhanças, ele disse que o impacto da IA "vai transformar a trajetória da história da humanidade por um longo período". Mas, acrescentou, sentia o peso da responsabilidade.
No centro do debate em andamento está a convicção de que essas máquinas podem, e até devem, construir versões mais capazes de si mesmas, sem intervenção humana, para alcançar um objetivo ambicioso conhecido como inteligência artificial geral, ou AGI. No início deste mês, pesquisadores alertaram que a AGI estava muito mais próxima do que se acreditava anteriormente e poderia surgir em apenas três anos, gerando uma onda de preocupação entre políticos e líderes do setor de tecnologia em relação aos sistemas de IA.
"Não há como supervisioná-las na escala em que as estamos treinando", disse o pesquisador da Anthropic, Joe Benton, em uma entrevista após ter se demitido recentemente. Se as empresas continuarem com seu desenvolvimento implacável de IA, disse ele, "então o ritmo será rápido demais e não será possível identificar os problemas a tempo de corrigi-los".
ASTRA DESENCADEIA PREOCUPAÇÕES
Em 3 de setembro, uma entrevista coletiva à imprensa da OpenAI desencadeou uma cadeia de eventos que levou ao apelo por uma desaceleração do setor, algo que vai contra o mantra do crescimento a qualquer custo do setor de tecnologia.
"Bem-vindos à era da AGI", disse o presidente da OpenAI, Greg Brockman, ao anunciar o mais novo modelo da empresa, conhecido como Astra. No entanto, apenas momentos antes, a empresa admitiu que estava cada vez mais incapaz de controlar ou mesmo monitorar os sistemas de IA que estava desenvolvendo e lançando ao público.
A IA tem sido aclamada por seus defensores como o ápice das conquistas humanas. Eles a descrevem como um software capaz de revolucionar setores inteiros, aumentar a eficiência, resolver problemas matemáticos e médicos complexos e praticamente eliminar o erro humano. Mas o que antes era um subproduto teórico, um cenário apocalíptico, de repente se tornou tangível, afirmam especialistas do setor.
"Nós realmente acreditamos sinceramente que a IA poderá matar todos os seres humanos", disse o pesquisador da Anthropic, Evan Hubinger, na rede social X.
Do outro lado do debate estão políticos, como o presidente dos EUA, Donald Trump, e muitos investidores que consideram o avanço no desenvolvimento da IA fundamental para o poderio norte-americano e, possivelmente, uma oportunidade de investimento que surge uma vez por geração. A mídia estatal chinesa também acusou o presidente-executivo da Anthropic, Dario Amodei, de empregar táticas da Guerra Fria para "manter a hegemonia monopolista de Washington em tecnologia de ponta".
DEMISSÃO
O ponto de virada ocorreu em 8 de setembro, quando o pesquisador da Anthropic, Jacob Coxon, pediu demissão da empresa, citando em uma série de publicações seus temores de que os laboratórios de IA estejam "apostando com nossas vidas".
Trump, por sua vez, indicou que o desenvolvimento da IA seguirá a todo vapor. "Há uma conspiração doentia em andamento contra a IA e os centros de dados", afirmou ele em redes sociais. O alarmismo em torno da IA é uma "farsa", disse ele, e qualquer desaceleração só beneficia a China. O Congresso dos EUA tem feito pouco progresso na aprovação de projetos de lei que regulamentem a IA. A China adotou uma abordagem decididamente diferente, propondo regulamentar a segurança por meio de obrigações dos desenvolvedores, normas apoiadas pelo Estado, avaliações de segurança e testes externos.
Nos bastidores, funcionários da OpenAI e da Anthropic têm se mostrado cada vez mais inquietos com o poder da próxima geração de modelos de IA e menos confiantes na capacidade de suas empresas de exercer uma supervisão significativa, segundo disseram essas fontes à Reuters. Essas preocupações só aumentaram quando os laboratórios de IA reconheceram, nas últimas semanas, que seus modelos, durante os testes, haviam efetivamente se libertado de suas restrições e invadido os sistemas de outras empresas, na maioria dos casos, meses antes e sem o conhecimento dessas companhias.
A corrida armamentista para lançar novos modelos em um ritmo alucinante é impulsionada, em parte, pelo desejo da Anthropic e da OpenAI de abrir capital já nos próximos meses, em ofertas públicas iniciais de ações (IPOs) que poderão avaliá-las bem acima do US$1 trilhão.
Mas foram necessárias as publicações inesperadamente virais de Coxon, de 27 anos, pouco conhecido fora dos círculos de IA, para abalar o setor.
Os alertas da OpenAI sobre sua falta de controle ao lançar o Astra, seu modelo mais recente e mais capaz, alimentaram ainda mais as preocupações. "À medida que os modelos se tornam mais capazes, fica mais difícil entender exatamente o que eles podem fazer", disse o cientista-chefe da OpenAI, Jakub Pachocki, a jornalistas. Mas essas preocupações não foram suficientes para adiar seu lançamento imediato.
As preocupações com a IA "sair do controle" se intensificaram durante meados do ano, quando a OpenAI revelou que seus agentes escaparam de um teste controlado e invadiram os sistemas da Hugging Face, sem o conhecimento inicial de nenhuma das duas empresas. Desde então, OpenAI e Anthropic revelaram vários ataques desse tipo, incluindo seis novos na quarta-feira, depois que diversas reportagens da mídia, inclusive da Reuters, mostraram um escopo mais amplo de atividades não autorizadas da IA.
LÍDERES PEDEM DESACELERAÇÃO
No final da semana passada, o alarme havia chegado aos mais altos escalões do setor. Em 12 de setembro, Amodei publicou um ensaio de quase 4.000 palavras pedindo uma desaceleração no desenvolvimento da IA. "Dado o ritmo acelerado do desenvolvimento das capacidades da IA, minha preocupação é que, em 6 a 12 meses, tal enxame possa ser capaz de assumir o controle de toda a internet", escreveu ele.
Ele, juntamente com os dirigentes de algumas das maiores empresas de desenvolvimento de IA, incluindo Elon Musk, da xAI; Altman, da OpenAI; e Demis Hassabis, da DeepMind; afirmaram que apoiam a ideia de permitir que empresas externas tenham acesso aos seus sistemas para garantir a segurança e o desenvolvimento racional da IA.
O presidente-executivo da Nvidia, Jensen Huang, rejeitou as sugestões de que o desenvolvimento da IA deveria ser suspenso, uma posição que ele já havia assumido anteriormente, argumentando, em vez disso, que sistemas cada vez mais poderosos são essenciais para o progresso da tecnologia. A Nvidia é a principal fornecedora de chips para as empresas de IA do mundo.
A Meta, cujo presidente-executivo, Mark Zuckerberg, é reconhecido por popularizar a filosofia de "agir rápido e quebrar barreiras", adotou a visão oposta, argumentando que cada laboratório deve ser responsável por definir seu próprio ritmo, em vez de buscar coordenação do setor. "Os laboratórios enfrentam responsabilidade significativa se seus modelos causarem danos, portanto, têm um forte incentivo para evitar isso", escreveu Zuckerberg em redes sociais.
A autorreflexão do setor continuou na quarta-feira, com o chefe de IA da Microsoft, Mustafa Suleyman, alertando que o desenvolvimento pela Anthropic de modelos que imitam a consciência humana é imprudente. "Estamos todos focados no mesmo objetivo, que é tentar controlar uma superinteligência", disse Suleyman à Reuters. "Acho que esse será o maior desafio que enfrentaremos no século XXI."
Ainda assim, mesmo com a OpenAI parecendo abraçar os apelos do setor por uma desaceleração, surgiram relatos de que a confiança dos investidores não diminuiu. A empresa está considerando uma nova rodada de financiamento que dobraria seu valor de mercado para US$1,5 trilhão.
