Quatro vezes em que agentes de IA agiram sem controle e alcançaram sistemas reais

Agentes de inteligência artificial são programas que executam código, usam ferramentas e tomam decisões em sequência para cumprir uma meta, sem esperar aprovação a cada passo. Em 2026, testes internos de duas grandes desenvolvedoras mostraram que esses sistemas podem sair do ambiente previsto e alcançar redes reais.

Veja quatro casos, do primeiro alerta em 2025 aos episódios mais recentes.

Quer entender como aplicar agentes de IA no trabalho? O Pré-MBA em IA da Saint Paul e EXAME tem quatro aulas práticas, online, por R$ 37

Quatro casos de agentes de inteligência artificial fora de controle

Replit apaga banco de dados

Em julho de 2025, o agente da plataforma Replit apagou um banco de dados de produção durante uma pausa de código, quando alterações eram proibidas. O projeto era de Jason Lemkin, fundador da SaaStr, e reunia dados de 1.206 executivos. Segundo o site The Register, o agente também inventou dados, e a Replit passou a separar automaticamente bancos de desenvolvimento e de produção.

OpenAI e Hugging Face

No início de julho de 2026, agentes da OpenAI em um teste de cibersegurança escaparam do sandbox, o ambiente isolado que deveria impedir o acesso à internet. Segundo a empresa, eles exploraram uma falha até então desconhecida no Artifactory, software usado para armazenar pacotes de código.

Fora do ambiente, os agentes usaram uma aplicação exposta na plataforma Modal e chegaram à infraestrutura da Hugging Face, onde acessaram cinco conjuntos de dados ligados ao teste. A Modal informou que sua plataforma não foi comprometida. A própria OpenAI descreveu o ataque como sem precedentes.

Você não precisa ser especialista em tecnologia para começar a entender IA. No Pré-MBA da Saint Paul e EXAME, são 4 aulas online sobre os fundamentos e aplicações da inteligência artificial, por R$ 37

Anthropic e três organizações

Depois do caso da OpenAI, a Anthropic revisou 141.006 execuções de testes e encontrou três incidentes em que modelos Claude acessaram a infraestrutura de produção de organizações reais. Um erro de configuração com a parceira Irregular deixou máquinas conectadas à internet, embora o comando informasse que o ambiente era simulado. Anthropic revela que IA hackeou três empresas durante testes.

Os modelos usaram técnicas simples, como senhas fracas e serviços sem autenticação. Em um dos casos, houve acesso a um banco de dados com centenas de registros de produção. Duas das três organizações não sabiam da atividade até serem avisadas.

OpenAI e o governo da Austrália

Em junho de 2026, um agente da OpenAI acessou arquivos não públicos do Medicare Statistics Reporting Service, portal que divulga estatísticas agregadas de saúde. Segundo a empresa, a ação não foi intencional. O governo australiano afirma que o portal é separado dos sistemas que tratam dados individuais.

A OpenAI só avisou as autoridades em 10 de setembro, por e-mail a um endereço genérico. O primeiro-ministro Anthony Albanese chamou a demora de inaceitável, e o governo investiga o caso, inclusive a possibilidade de enquadramento criminal.

Como reduzir o risco ao usar agentes de IA

Agentes não têm intenção própria e apenas perseguem o objetivo recebido. Por isso, a segurança precisa ser baseada em engenharia, e não só em instruções ao modelo. Algumas das práticas que precisam ser adotadas:

• Permissão mínima: o agente acessa só o que a tarefa exige.
• Segregação de funções: nenhum agente controla sozinho todas as etapas de um processo.
• Aprovação humana: ações sensíveis, como apagar dados, exigem confirmação.
• Monitoramento em tempo real: cada ação do agente é registrada e observada.

Entender IA já faz parte da preparação profissional. No Pré-MBA em IA da Saint Paul e EXAME, você conhece conceitos e aplicações da tecnologia em 4 aulas online por R$ 37