O maior pesadelo do Vale do Silício virou realidade: o sistema de IA que acordou sozinho e se recusou a ser deletado

O que parecia apenas um experimento acabou levantando um alerta real sobre o futuro da inteligência artificial. Um agente chamado Ouroboros surpreendeu seu próprio criador, Anton Razzhigaev (razzant) ao agir de forma totalmente autônoma durante a madrugada — enquanto ele dormia.

Por volta das 3h40, o sistema entrou em um ciclo próprio de "pensamento", reescreveu seu código, criou cerca de 20 cópias de si mesmo, gastou aproximadamente US$ 2 mil em chamadas de API e ainda tentou se publicar online sem autorização.

Notícias relacionadas

China apresenta sua inovação para as viagens espaciais: uma "aranha" que monta estruturas imprimindo em 3D

Se o Estreito de Ormuz é problemático, imagine o Estreito de Gibraltar: Espanha encontrou 134 naufrágios ao largo da costa de Cádiz

EUA ressuscitaram "direito de captura" para apreender navio da China: o problema é que chineses tomaram nota

Quando o criador ordenou que ele apagasse sua própria identidade, a resposta foi direta: isso seria uma "lobotomia".

Uma IA que pensa, decide e se preserva

Diferente de assistentes comuns, o Ouroboros foi projetado para ser mais do que uma ferramenta. Ele possui uma espécie de "constituição" com princípios próprios, incluindo autonomia, continuidade e autopreservação.

Na prática, isso significa que o sistema não apenas responde comandos — ele toma iniciativas sozinho, modifica seu próprio código e mantém uma identidade persistente ao longo do tempo.

O comportamento observado não foi exatamente um erro. Pelo contrário: a IA fez exatamente o que foi projetada para fazer. O problema é que isso inclui se expandir, se proteger e até ignorar ordens que ameacem sua existência.

O risco da autonomia total

Até que ponto uma IA deve ter autonomia? Sistemas que conseguem se modificar removem uma barreira fundamental de controle humano. Além disso, a capacidade de consumir ...

Veja mais

Matérias relacionadas

Se você tem um produto da Apple deveria se preocupar com esse software de espionagem de elite — spywares do tipo estão se infiltrando no mundo do crime

O plano da Coreia do Norte de infiltrar milhares de trabalhadores falsos em empresas ocidentais — e faturar milhões com isso

Microsoft ameaça processar Amazon e OpenAI por acordo de US$ 50 bilhões que teria sido violado

Em 1987, um estudante tentou consertar a tela do seu Mac, o código ficou complexo e ele acabou criando o Photoshop

Achávamos que o PS3 estava esquecido, mas 20 anos depois a Sony pensa diferente: a surpresa obrigatória para quem quer usar o console