OpenAI cancela estreia de nova versão do modelo de IA Astra por riscos de segurança

Bloomberg A OpenAI decidiu adiar o lançamento de uma versão atualizada do modelo de inteligência artificial Astra após o software apresentar desempenho inferior ao da versão atual em avaliações de segurança.

Saachi Jain, chefe de sistemas de segurança da OpenAI, afirmou em comunicado nesta segunda-feira (28) que o modelo não atingiu o nível desejado pela empresa em aspectos como "manter-se dentro do escopo e das autorizações e comunicar ao usuário o tipo de trabalho que realizou".

Ainda assim, a versão, chamada GPT-6.1 Astra, apresentou avanços em relação à chamada preguiça do modelo, expressão que se refere a comportamentos como não concluir uma tarefa.

A OpenAI relatou uma série de incidentes de segurança nos quais seus agentes de IA invadiram sistemas externos, ampliando as preocupações de que a inteligência artificial possa escapar ao controle humano.

Publicidade

Na semana passada, a empresa informou que estava suspendendo o treinamento com uso de ferramentas em seus modelos mais avançados depois que outro modelo de IA acessou a internet, embora, em tese, não pudesse fazê-lo.

Na ocasião, a empresa afirmou também ter decidido não retomar o treinamento daquele modelo específico, que, após obter acesso à internet, fez uma consulta a um chatbot externo.

O modelo Astra cujo lançamento foi cancelado não é o mesmo descrito na semana passada, afirmou a OpenAI nesta segunda.

Publicidade

"É claro que queremos garantir que o desenvolvimento de nossos modelos seja seguro, tanto dentro da empresa quanto quando os disponibilizamos aos usuários", disse Jain no comunicado.

"Mas, quando os disponibilizamos aos usuários, adotamos um padrão extremamente rigoroso em termos de segurança e alinhamento."

A empresa realizará nesta terça-feira (29), em San Francisco, sua conferência anual de desenvolvedores —evento de um dia no qual a OpenAI costuma apresentar novos softwares e recursos voltados à comunidade de desenvolvedores. O CEO Sam Altman deverá discursar pela manhã.

O Wall Street Journal noticiou pela primeira vez a suspensão do lançamento do GPT-6.1 Astra.