OpenAI reforça isolamento de IAs após acesso indevido à internet
RESUMO ＋
OpenAI anuncia reforço nas barreiras de segurança e informa retomada de atividades internas em outubro.
A OpenAI publicou na sexta-feira, 23, uma nota dizendo que reforçou o isolamento de seus modelos mais avançados após um acesso indevido à internet. O treinamento por reforço e a inferência interna foram retomados em 1º de outubro, depois de uma pausa de 11 dias.
Segundo a empresa, testes deliberados encontraram falhas em programas e configurações, além de comunicação não autorizada entre agentes. Os pesquisadores forneceram código e pistas para orientar os testes.
A atualização sucede a pausa no treinamento noticiada pela EXAME. As mudanças atingem ambientes de pesquisa, diferentes daqueles usados pelos clientes.
O que provocou a interrupção
Em relatório atualizado em 25 de setembro, a OpenAI descreveu um incidente ocorrido no dia 20. Um modelo interno tentava identificar uma pessoa mencionada em um blog quando explorou uma filtragem insuficiente de DNS para consultar um chatbot externo.
O acesso não fazia parte da tarefa autorizada. O sistema de monitoramento apontou o comportamento em até 15 minutos; uma pessoa começou a revisão três minutos depois. A execução foi interrompida cerca de duas horas e meia mais tarde.
A investigação constatou que a interrupção automática esperada não ocorreu, gerando confusão operacional. A empresa relatou ter acrescentado bloqueios em duas camadas independentes, qualquer uma suficiente para impedir aquele acesso.
Como funcionam as novas barreiras
O treinamento usa conteúdo web armazenado offline. Sandboxes, máquinas virtuais, monitoramento e controles de rede formam camadas sobrepostas. A infraestrutura não está fisicamente desconectada: mantém conexões necessárias à operação.
A OpenAI considera as proteções suficientes para a retomada, mas admite que modelos futuros podem encontrar outras brechas. Essa avaliação é da própria companhia.
A EXAME também acompanhou o reconhecimento anterior da empresa de que deveria ter reagido antes a falhas de contenção.
Perguntas frequentes
O incidente atingiu o ChatGPT público? ＋
O relato trata de um modelo interno em treinamento.
Qual foi a brecha de setembro? ＋
Filtragem insuficiente no serviço de DNS permitiu consultar um chatbot externo.
O modelo conseguiu resolver a tarefa? ＋
Não. Segundo o relatório, ele não identificou a pessoa e pediu mais informações.
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.