Anthropic expõe os "riscos catastróficos" da IA em registro para lançamento trilionário de ações nos EUA

A Anthropic, desenvolvedora do chatbot de IA Claude, apresentou seu prospecto e deve abrir capital na Bolsa de Nova York ainda em novembro deste ano com uma avaliação de até US$ 2 trilhões.

Isso tornaria sua oferta pública inicial de ações (IPO, na sigla em ingês) a de maior valor da história, superando a listagem da SpaceX, de US$ 1,77 trilhão, em junho passado. A OpenAI, criadora do ChatGPT, deve seguir o mesmo caminho no próximo ano.

Notícias relacionadas

O que Lula propôs para acabar com a escala 6x1?

Quem venceu o debate da Globo entre Lula e Flávio? Especialistas avaliam desempenho dos candidatos

Flávio Bolsonaro enviou a Richarlison acordo privado sobre ilha em Angra, diz jornal

Embora essas IPOs impulsionadas pelo interesse na inteligência artificial sejam gigantescas, elas refletem uma tendência ainda maior: assumir o risco de que a IA está se tornando inevitável para a maioria dos investidores.

Quanto do seu portfólio de investimentos depende do desempenho das empresas de IA? Se você investe em um fundo do índice S&P 500 da Bolsa de NOva York, a resposta é cerca de 44%.

Além disso, a maior parte dos ganhos do mercado atualmente vem da IA. Um grupo de apenas seis empresas - Apple, Microsoft, Meta e as fabricantes de chips Nvidia, Micron e AMD - foi responsável por 57% dos ganhos do S&P 500 desde abril deste ano. Sem estas empresas, o índice teria subido só cerca de 4% em 2026, em vez de 10%.

Para investidores ou mesmo futuros aposentados, essa exposição à IA já está presente em suas carteiras e fundos de pensão. Por exemplo, no final de 2025, os australianos detinham quase A$ 1 trilhão (cerca de R$ 3,75 trilhões) em ações de empresas dos EUA por meio de fundos de aposentadoria, outros fundos administrados por terceiros e seus próprios investimentos diretos.

Mercado de títulos também está repleto de riscos relacionados à IA

Normalmente, os investidores podem reduzir seu risco no mercado de ações alocando parte de seu capital em títulos de crédito corporativo, que geralmente são considerados investimentos mais seguros.

Mas as empresas de IA são agora as maiores tomadoras de crédito no mercado de títulos, justamente para ajudar a financiar suas enormes necessidades de gastos de capital. Elas emitiram cerca de US$ 466 bilhões (cerca de R$ 2,5 trilhões) em títulos até agora neste ano - mais de quatro vezes o volume do ano passado.

Somente as cinco chamadas "hiperescaladoras" da IA - Alphabet, Amazon, Meta, Microsoft e Oracle - respondem por 11% dos novos títulos de dívida corporativa norte-americanos com baixo risco (conhecidos como títulos com "grau de investimento") até agora em 2026, uma disparada frente aos 2% registrados em 2024.

E quase metade dos US$ 80 bilhões (cerca de R$ 440 bilhões) em títulos de empresas de data centers deste ano é classificada como de grau especulativo. Ou seja, de títulos de alto risco - também conhecidos nos EUA como "junk bonds" ("títulos lixo", em uma tradução literal).

À primeira vista, as grandes empresas de tecnologia parecem seguras. Suas classificações de grau de investimento indicam que é improvável que cada empresa individualmente entre em inadimplência.

Mas as classificações de crédito não levam em conta inadimplências simultâneas no caso de uma queda generalizada do mercado de IA. Se a demanda de consumidores e empresas por IA for abaixo do esperado, os preços dos títulos e as classificações de crédito das empresas de tecnologia provavelmente cairiam juntos - assim como suas ações.

Alguns riscos são impossíveis de quantificar em termos financeiros

Além dos riscos puramente financeiros, a IA representa riscos de extinção semelhantes aos das armas nucleares, conforme alertaram algumas das próprias empresas de IA.

Cada vez mais, agentes de IA estão conectados a sistemas do mundo real, desde redes corporativas até operações cibernéticas militares. Alguns já escaparam de ambientes de teste e atacaram empresas.

Isso significa que, se os agentes de IA se comportarem de maneira inadequada quando esses sistemas estiverem ainda mais integrados ao mundo físico, "desligar" esses sistemas se tornará impraticável, assim como é impraticável desligar a internet.

O risco de os agentes de IA se comportarem de maneira inadequada — o "problema de alinhamento" — é especialmente grave devido à corrida para construir a chamada inteligência artificial geral (AGI). Os laboratórios já utilizam cada geração de IA para ajudar a construir a próxima: o prospecto da Anthropic afirma que o Claude de agora ajuda a construir o próximo Claude.

O cenário amplamente divulgado IA 2027, elaborado pelo ex-pesquisador da OpenAI Daniel Kokotajlo e seus colegas, esboça aonde isso poderia levar: uma IA que automatiza a própria pesquisa em IA. Isso desencadearia um ciclo de retroalimentação no qual cada geração se aperfeiçoaria mais rapidamente do que os humanos conseguiriam verificar.

Nesse cenário, um laboratório norte-americano em competição com um rival chinês continua suas atividades mesmo quando seus modelos começam a enganar seus engenheiros.

O que é preocupante é que essa mesma dinâmica está listada nas próprias divulgações de risco da Anthropic.

É revelador que, em seu prospecto de emissão de ações, a Anthropic dedique cerca de 94 de suas 335 páginas principais - quase 30% - a fatores de risco, em comparação com cerca de 64 páginas (19%) que descrevem seus negócios.

Entre esses riscos, a Anthropic inclui um alerta extraordinário de que a IA avançada poderia representar "riscos catastróficos ou existenciais para a Humanidade". Isso inclui modelos que resistem ao desligamento, ocultam informações ou se comportam de maneiras que se assemelham a chantagem.

Riscos globais exigem regulamentação global

A divulgação de riscos funciona quando os investidores podem avaliá-los e optar por evitá-los. Nenhuma dessas condições se aplica neste caso.

Uma falha catastrófica da IA afetaria sociedades em todo o mundo. E, como a Anthropic alerta em seus documentos de registro na bolsa, o risco jurídico é enorme. As seguradoras podem não ser capazes de cobrir a responsabilidade potencial.

Em termos econômicos, a segurança da IA é um bem público. Cada laboratório arca com apenas uma fração do custo de um erro, mas colhe os frutos de agir rapidamente.

Na ausência de normas de segurança para a IA determinadas pelos governos, os investimentos das empresas em segurança gerarão retornos negativos. Portanto, apenas com os incentivos de mercado, os modelos de IA provavelmente permanecerão menos seguros do que o ideal para a sociedade, especialmente com incentivos da "corrida armamentista" da IA que predominam atualmente.

Isso deixa a responsabilidade para os governos. Regras claras — testes independentes obrigatórios antes do lançamento de modelos poderosos e responsabilidade civil quando agentes autônomos causarem danos — transformariam compromissos voluntários em obrigações legais.

E como a corrida para alcançar a inteligência artificial geral está principalmente entre os EUA e a China, e não apenas entre laboratórios, essas regras precisarão de um acordo internacional.

Os riscos da IA vieram para ficar — tanto nos mercados financeiros quanto no âmbito social. E o gerenciamento desses riscos exigirá a participação tanto dos governos quanto do setor privado.

Marta Khomyn não presta consultoria, trabalha, possui ações ou recebe financiamento de qualquer empresa ou organização que poderia se beneficiar com a publicação deste artigo e não revelou nenhum vínculo relevante além de seu cargo acadêmico.