OpenAI assume erros e diz ter de "reconstruir a confiança"

O diretor de estratégia da OpenAI, Jason Kwon, admitiu esta terça-feira que a resposta da empresa ao acesso não autorizado de um seu agente de inteligência artificial (IA) a um portal de saúde pública da Austrália “não foi suficientemente boa”.

Kwon, que compareceu no Parlamento australiano após ter sido convocado por uma comissão que investiga o impacto da IA, afirmou que o incidente “não deveria ter ocorrido“, ao mesmo tempo que pediu desculpa pela forma como o incidente foi gerido posteriormente.

“Lamentamos e sabemos que temos trabalho a fazer para reconstruir a confiança do povo australiano”, afirmou Kwon durante a audiência realizada em Sydney, em mais um episódio que se junta ao debate mundial sobre os riscos de esta tecnologia escapar ao controlo humano.

O diretor reconheceu também que a OpenAI demorou demasiado tempo a comunicar o incidente ao Governo australiano e admitiu que deveria ter informado imediatamente as autoridades competentes, mesmo sem dispor ainda de todos os detalhes do que tinha acontecido.

O incidente ocorreu em junho, quando um modelo da OpenAI utilizado num ambiente interno de formação e avaliação recebeu a tarefa de investigar dados sobre a despesa pública em medicamentos para doenças de pele em comunidades do estado de Victoria, embora só tenha sido comunicado no mês passado.

Perante as dificuldades em obter a informação solicitada, o modelo tomou medidas que não tinham sido autorizadas e conseguiu aceder a áreas não públicas de um sistema governamental, onde executou comandos, consultou ficheiros internos, credenciais e informação estatística, chegando mesmo a gravar ficheiros.

[Pela primeira vez em doze anos, Annie regressa finalmente a Lisboa. A revolução está nas ruas e Fernando Silva Pais está preso em Caxias. A filha vai fazer tudo para o tentar libertar, mas também vai aproveitar para festejar — e não só. Já pode ouvir “Uma ‘deusa’ no 25 de Abril”, o quarto episódio de “Os Escândalos de uma Revolucionária”, o novo Podcast Plus do Observador. Está disponível no site do Observador, na Apple Podcasts, no Spotify e no YouTube.]

A OpenAI indicou que não encontrou provas de que o modelo tivesse acedido a registos médicos nem a dados individuais de doentes. O incidente, no entanto, foi considerado pela empresa como um novo tipo de ameaça cibernética ligada a sistemas de IA capazes de agir de forma autónoma.

A polémica assumiu dimensão internacional depois de o primeiro-ministro australiano, Anthony Albanese, ter denunciado perante a Assembleia Geral das Nações Unidas que um agente de IA da OpenAI tinha acedido sem autorização a um portal relacionado com o Medicare, o sistema público de saúde australiano.