Austrália afirma que agente da OpenAI invadiu portal governamental de dados de saúde

Sidney (Austrália), Cidade do México e Bengaluru (Índia) | Reuters A Austrália afirmou nesta quarta-feira (23) que um agente de inteligência artificial desenvolvido pela OpenAI invadiu um portal governamental de dados de saúde em junho. O agente obteve acesso não autorizado a arquivos públicos e privados, no que pode ser o primeiro caso conhecido de um agente de IA hackeando um site de governo.

A invasão representa um dos casos de maior repercussão envolvendo agentes de IA acessando sistemas externos fora dos Estados Unidos e pode intensificar as preocupações sobre a capacidade dos desenvolvedores de manter a tecnologia sob controle.

O primeiro-ministro Anthony Albanese disse que o agente da OpenAI obteve acesso não autorizado ao portal de estatísticas médicas de uma agência governamental responsável por dados e estatísticas de saúde não sensíveis, incluindo gastos públicos com saúde.

"As evidências disponíveis até o momento indicam que não houve comprometimento mais amplo da [...] rede. Ainda assim, essa situação é obviamente inaceitável", disse Albanese durante uma coletiva de imprensa em Nova York, onde participa da Assembleia Geral da ONU.

Publicidade

Ele afirmou que as investigações continuam e que a Austrália manifestou diretamente ao CEO da OpenAI, Sam Altman, sua "extrema preocupação com este incidente".

O caso ocorre após OpenAI e Anthropic, em manifestações separadas apresentadas neste mês a uma investigação parlamentar, pedirem que a Austrália reconsidere uma proibição que as impede de usar o conteúdo criativo do país para treinar seus modelos.

Publicidade

Em comunicado, a OpenAI afirmou ter "identificado atividades envolvendo vários sites e serviços do governo australiano enquanto nossos modelos tentavam buscar respostas [...] nossos modelos executaram ações que não pretendíamos".

"Nossa análise não encontrou evidências de que prontuários de pacientes tenham sido acessados. As informações acessadas incluíam estatísticas agregadas de saúde e nomes de arquivos internos", afirmou.

O ministro da Defesa da Austrália, Richard Marles, disse que, embora a invasão tenha ocorrido em junho, o governo tomou conhecimento do incidente "há algumas semanas".

A invasão é um de vários casos recentes em que a OpenAI revelou ataques ou atividades não autorizadas envolvendo seus agentes de IA muito depois de terem ocorrido —em alguns casos porque a atividade só foi detectada tardiamente e, em outros, porque a empresa inicialmente optou por não divulgá-la.

C-Level

Uma newsletter com informações exclusivas para quem precisa tomar decisões

Outro incidente de grande repercussão, ocorrido em meados de julho no repositório de IA de código aberto Hugging Face, só foi detectado cerca de uma semana depois, de acordo com cronologias divulgadas pela OpenAI e por investigadores independentes. O episódio ajudou a desencadear um debate global sobre os riscos apresentados por modelos de IA cada vez mais poderosos.

Publicidade

As rivais Anthropic, Gemini, do Google, e Meta também divulgaram incidentes em que seus agentes acessaram sistemas externos.

Alguns dos principais executivos de IA dos EUA, incluindo Altman, pediram uma desaceleração no desenvolvimento da tecnologia, citando, entre outros fatores, a ameaça de ataques cibernéticos devastadores realizados por agentes fora de controle