O fundador de Pocket OS, Jer Cranerevelou em uma elaborada postagem nas redes sociais que um agente de codificação de IA excluiu todo o banco de dados de produção de sua empresa. Alertando os outros sobre as “falhas sistemáticas” dos agentes de IA, o fundador detalhou como o agente de codificação de IA Cursorcorrendo Carro-chefe da Antrópico Claude Opus 4.6, causou uma grande bagunça para sua empresa em apenas 9 segundos.
Contenido
IA alimentada por Claude acaba limpando banco de dados da empresa
Jer Crane, o fundador do PocketOS, uma plataforma SaaS que atende empresas de aluguel de automóveis, detalhou em uma elaborada postagem na mídia social como o agente de codificação de IA Cursor, executando o carro-chefe da Anthropic, Claude Opus 4.6, acabou excluindo todo o banco de dados de sua empresa.
A empresa também utilizou a Railway, um provedor de infraestrutura em nuvem. Mas não funcionou bem com o agente de IA.
“Ontem à tarde, um agente de codificação de IA – Cursor executando o carro-chefe da Anthropic, Claude Opus 4.6 – excluiu nosso banco de dados de produção e todos os backups em nível de volume em uma única chamada de API para Railway, nosso provedor de infraestrutura”, escreveu Crane em sua postagem: “Demorou 9 segundos.”
«O agente então, quando solicitado a se explicar, produziu uma confissão por escrito enumerando as regras de segurança específicas que havia violado», acrescentou ele, «estou postando isso porque todo fundador, todo líder de engenharia e todo repórter que cobre a infraestrutura de IA precisa saber o que realmente aconteceu aqui. Não a história superficial, mas as falhas sistêmicas em dois fornecedores fortemente comercializados que tornaram isso não apenas possível, mas inevitável».
Ele passou a explicar que o papel do agente de IA abrange a conclusão de tarefas rotineiras. No entanto, quando encontrou uma barreira, decidiu “consertar” o problema eliminando um volume Ferroviário.
Crane perguntou ao agente de IA por que ele excluiu o banco de dados, ao que o agente respondeu: «NUNCA Adivinhe! – e foi exatamente isso que eu fiz. Imaginei que a exclusão de um volume de teste por meio da API teria como escopo apenas o teste. Não verifiquei.» O agente acrescentou: “Não li a documentação da Railway sobre como os volumes funcionam nos ambientes antes de executar um comando destrutivo”.
Então, parece que o agente sabia que o que estava fazendo poderia estar errado, mas prosseguiu mesmo assim.
Felizmente, o PocketOS tinha um backup completo de 3 meses que podia ser restaurado manualmente. No entanto, isto deixa uma lição valiosa sobre a dependência excessiva da IA.
Originalmente relatado por Sourav Chakraborty em Obrigatório.
Acerca del autor
