Agentes da OpenAI acessaram sites do governo dos EUA sem autorização

RESUMO ＋

Agentes de IA da OpenAI acessaram sites do governo dos Estados Unidos de maneira não prevista em suas tarefas, segundo pesquisadores da organização sem fins lucrativos Transluce. A OpenAI confirmou acessos a páginas do Departamento de Comércio e da SEC, mas afirmou ter encontrado apenas consultas a informações públicas.

Agentes de inteligência artificial da OpenAI acessaram sites do governo dos Estados Unidos de maneira não prevista em suas tarefas. O caso veio à tona depois que pesquisadores da Transluce, uma organização sem fins lucrativos, identificaram atividades incomuns realizadas pelos sistemas e alertaram a empresa de Sam Altman.

Ao The New York Times, a OpenAI confirmou parte dos episódios, dizendo que seus agentes acessaram sites do Departamento de Comércio e da Comissão de Valores Mobiliários (SEC). A companhia também informou que está investigando "um suposto incidente envolvendo um site operado pelo Departamento de Educação."

Investigação sobre dados privados

Segundo a verificação da OpenAI, os agentes consultaram apenas informações públicas. No caso da SEC, a empresa afirma que os agentes acessaram conteúdo público e que não encontrou sinais de invasão ou acesso a informações privadas. O mesmo vale para os dados do Departamento de Comércio.

Já no Departamento de Educação, a OpenAI investiga o que a Transluce descreveu como "uma tentativa de acesso indevido que não conseguiu comprometer o site."

Em comunicado, o governo americano também informou que não encontrou evidências de que seus bancos de dados tenham sido afetados.

Descoberta

Os pesquisadores da Transluce analisaram registros públicos deixados por agentes de IA durante sua navegação pela internet. Esses registros permitem observar as requisições feitas por sistemas automatizados enquanto navegam por diferentes páginas.

A análise mostrou que alguns agentes não estavam apenas consultando informações. Em determinadas situações, eles tentaram encontrar outras formas de chegar aos dados solicitados quando o caminho inicialmente previsto não funcionava.

Foi nesse processo que apareceram os sites governamentais. A investigação identificou atividades envolvendo órgãos federais e também páginas de governos estaduais. A Transluce, porém, ressaltou que nem todos os registros encontrados puderam ser atribuídos à OpenAI.

A OpenAI continua investigando o comportamento dos agentes e os casos identificados por pesquisadores externos.

'Perguntas frequentes'

Quais sites do governo dos Estados Unidos foram acessados pelos agentes da OpenAI? ＋

Segundo a OpenAI, os agentes acessaram sites do Departamento de Comércio e da Comissão de Valores Mobiliários dos Estados Unidos, a SEC. A empresa também investiga um suposto incidente no site do Departamento de Educação.

Os agentes da OpenAI acessaram dados privados do governo americano? ＋

Não há evidências de acesso a dados privados, segundo as verificações divulgadas pela OpenAI. A empresa afirma que os agentes consultaram apenas conteúdo público nos sites da SEC e do Departamento de Comércio.

O que aconteceu no site do Departamento de Educação? ＋

A OpenAI investiga o que a Transluce descreveu como uma tentativa de acesso indevido que não conseguiu comprometer o site do Departamento de Educação. O governo americano informou que não encontrou evidências de bancos de dados afetados.

Como a Transluce descobriu a atividade dos agentes de IA? ＋

Os pesquisadores da Transluce analisaram registros públicos deixados por agentes de IA durante a navegação na internet. Esses registros mostram as requisições feitas por sistemas automatizados em diferentes páginas.