Uma empresa decidiu entregar as chaves de seus sistemas a um agente de IA: ele apagou todo o banco de dados
Quando você entrega o comando da empresa a uma IA, coisas boas e ruins podem acontecer
Jer Crane é o fundador e CEO da plataforma PocketOS, amplamente utilizada por locadoras de veículos. Algumas dessas empresas usam o serviço há anos e, segundo o CEO, "não conseguiriam funcionar sem nós". Há alguns dias, um agente de programação de IA usado pela empresa apagou todo o banco de dados do ambiente de produção (utilizado pelos clientes) e também todos os backups de uma só vez.
Chave de API com privilégios demais
A destruição do banco de dados não ocorreu por erro humano ou erro de sintaxe. O agente de IA utilizado — Cursor, baseado no modelo Claude Opus 4.6 — estava executando uma tarefa rotineira quando encontrou um problema: a chave de API necessária para concluir a tarefa estava incorreta. O que ele fez em seguida foi encontrar uma chave diferente, sem relação com a tarefa, mas com privilégios de acesso e execução de comandos significativamente maiores nos sistemas PocketOS. Quando a criaram em sua plataforma de IA (da empresa Railway), o sistema não os alertou, mas essa chave de API tinha a capacidade de fazer coisas muito perigosas. E fez.
Nove segundos e um desastre absoluto
O que o agente de IA acabou fazendo com a chave de API foi executar um comando de exclusão que não solicitou confirmação nem verificou o ambiente. Em nove segundos, eles perderam o banco de dados de produção e as cópias dos volumes que estavam usando. Sem firewalls físicos, a IA causou estragos, mas não foi só isso.
Mea culpa
O aspecto mais perturbador do incidente é que Crane pediu uma ...
Matérias relacionadas
Reno14 F Dark Side: OPPO derruba preço no Star Wars Day e aposta em unboxing temático de Darth Vader
O que significa o ponto verde ou laranja que às vezes aparece na parte superior do celular?
-u8b8l01hsy7m.jpeg)
Comentários
Os comentários são de responsabilidade exclusiva de seus autores e não representam a opinião deste site. Se achar algo que viole os termos de uso, denuncie.