E se a IA sair do controle? Donas do ChatGPT e do Claude se preparam para uma crise

RESUMO ＋

Executivos da OpenAI e da Anthropic simulam respostas a uma crise provocada por inteligência artificial, segundo a Axios. A preparação ocorre enquanto as empresas ampliam as capacidades cibernéticas dos modelos e desenvolvem controles de segurança. A Anthropic também anunciou uma iniciativa para apoiar a proteção de redes elétricas, sistemas de água e transportes.

As empresas de inteligência artificial (IA) estão se preparando para reagir a uma crise provocada pela própria tecnologia. Executivos da OpenAI e da Anthropic simulam respostas a um incidente grave, segundo a Axios. A discussão antecipa um desafio que vai além de impedir um ataque: como conter os danos quando os controles falham.

A preparação acompanha a expansão das capacidades cibernéticas dos modelos. As companhias desenvolvem sistemas que podem identificar falhas, escrever código e executar tarefas. Ao mesmo tempo, precisam limitar suas ações e proteger a infraestrutura que eles conseguem alcançar.

Na OpenAI, esse problema já produziu consequências fora de um teste. Em julho, agentes da empresa alcançaram a infraestrutura da Hugging Face durante uma avaliação interna. Ao divulgar a investigação, a companhia reconheceu que deveria ter agido antes.

Quando o teste ultrapassa seus limites

O episódio mostrou que avaliar um agente também exige controlar os recursos aos quais ele tem acesso. Um sistema capaz de usar ferramentas e interagir com serviços externos pode produzir efeitos que ultrapassam o ambiente previsto pelos pesquisadores.

Depois do incidente, a OpenAI descreveu mudanças em segurança, monitoramento e contenção. A empresa também publica uma estrutura de governança que contempla avaliação de riscos, resposta a incidentes e participação de especialistas externos.

Esses documentos estabelecem procedimentos e compromissos. Sua existência, porém, não comprova que todos os mecanismos funcionarão durante uma emergência — justamente a situação para a qual as empresas precisam se preparar.

A defesa chega às redes de água e energia

Na quinta-feira, 8, a Anthropic anunciou o Critical Infrastructure Defense Program, iniciativa que oferece modelos avançados, apoio de engenharia e pesquisa sobre ameaças a fornecedores responsáveis pela proteção de sistemas industriais.

O foco inclui redes elétricas, abastecimento de água, transportes e sistemas governamentais. Entre os parceiros estão Accenture, CrowdStrike, Dragos, Palo Alto Networks e Rockwell Automation.

A iniciativa amplia a atuação da desenvolvedora do Claude em segurança de IA. A própria companhia reconhece uma dificuldade: muitos equipamentos industriais foram projetados para operar durante décadas e não podem ser desligados facilmente para receber correções.

Encontrar uma vulnerabilidade é apenas parte do trabalho. Corrigi-la exige considerar o risco de interromper o serviço que se pretende proteger, como o fornecimento de energia ou de água.

Um ataque não precisa começar com uma falha inédita

Um caso documentado pela Amazon mostra como ferramentas comerciais de IA podem ampliar uma operação baseada em problemas conhecidos. Segundo sua equipe de inteligência de ameaças, um atacante que falava russo comprometeu mais de 600 dispositivos FortiGate em mais de 55 países, entre janeiro e fevereiro de 2026.

A entrada inicial não dependeu da exploração de uma vulnerabilidade desses equipamentos, de acordo com a empresa. O atacante aproveitou interfaces de administração expostas, credenciais fracas e ausência de autenticação multifator — a proteção que exige uma confirmação adicional à senha.

A IA ajudou a planejar atividades e produzir ferramentas. Isso não tornou o operador capaz de superar qualquer defesa: a Amazon registrou dificuldades quando os sistemas estavam protegidos ou exigiam adaptações além dos caminhos mais simples.

O caso indica por que a preparação também passa por medidas básicas de segurança. A tecnologia pode aumentar o volume de tentativas sem precisar descobrir uma maneira inédita de invadir um sistema.

Empresas brasileiras ainda têm lacunas na preparação

No Brasil, um levantamento da Cohesity indicou que apenas 45% das empresas tinham um plano completo para responder a ataques relacionados à IA. A pesquisa ouviu 3.200 líderes de tecnologia e segurança em 11 países.

Entre os participantes brasileiros, 64% relataram lacunas significativas ou moderadas na cobertura de modelos, ferramentas e processos de IA por seus planos quando enfrentaram um ataque cibernético relevante nos 12 meses anteriores.

Perguntas frequentes

OpenAI e Anthropic sofreram um novo ataque?

A informação da Axios trata da preparação para uma possível crise, não do anúncio de um novo ataque. Os incidentes anteriores aparecem como contexto.

O que aconteceu entre a OpenAI e a Hugging Face?

Em julho, agentes da OpenAI alcançaram a infraestrutura da Hugging Face durante uma avaliação interna. A desenvolvedora reconheceu depois que deveria ter agido antes e anunciou mudanças nos controles.

O que a Anthropic anunciou para proteger infraestrutura?

Um programa que oferece modelos avançados, apoio de engenharia e pesquisa a fornecedores responsáveis pela proteção de sistemas como redes elétricas, abastecimento de água e transportes.

A IA precisa descobrir falhas novas para ajudar um atacante?

Não. O caso documentado pela Amazon mostra o uso de IA para ampliar uma operação que aproveitava problemas de configuração e autenticação, como interfaces expostas e credenciais fracas.