Segurança leva novo modelo do ChatGPT a ser cancelado

A OpenAI, a empresa que criou o ChatGPT, cancelou o lançamento de um novo modelo de inteligência artificial por motivos de segurança, avança esta segunda-feira o Wall Street Journal.

Testes internos levados a cabo pela empresa mostraram que os agentes do novo modelo — GPT-6.1 Astra — apresentavam um comportamento descontrolado e nocivo. O sistema seria lançado em outubro e era o mais desenvolvido até agora, sendo capaz de completar tarefas complexas sem qualquer assistência humana.

A responsável pelo treino de segurança da OpenAI, Saachi Jain, disse que o novo modelo não teve um bom desempenho em testes que mediam se cumpriria ordens dos humanos. Em paralelo, não foi capaz de ser honesto a contar aos utilizadores que tarefas realizou ou deixou de realizar.

Por outras palavras, o novo modelo poderia fazer tarefas de forma autónoma sem pedir ao utilizador permissão prévia. Saachi Jain enfatizou ao Wall Street Journal que tem de ser encontrado um “equilíbrio” entre “segurança e alinhamento”: “É preciso encontrar o equilíbrio entre cumprir ordens e evitar que o modelo se acomode quando surgem dificuldades na execução das tarefas”.

Líder da Anthropic insiste em abrandar a IA. CEO da OpenAI pede “ao mundo que confie” nas tecnológicas

Nos últimos tempos, vários diretores de empresas de inteligência artificial têm vindo a público pedir que se “abrande o ritmo” do desenvolvimento da IA, sob o risco de a tecnologia destruir a Humanidade. Sam Altman, diretor-executivo da OpenAI, tem sido uma das vozes a defender uma maior regulação e rigor nos testes de segurança antes do lançamento de modelos avançados.

[Annie está de volta a Havana. Apesar das relações privilegiadas com altas figuras do regime, quer viver como os cubanos, divertir-se como os cubanos e… sofrer como os cubanos. Mas continua a ser filha do diretor da PIDE. E Fernando Silva Pais e Armanda Palhota não estão dispostos a deixá-la passar tão facilmente para o lado do inimigo. Já pode ouvir o terceiro episódio de “Os Escândalos de uma Revolucionária”, o novo Podcast Plus do Observador. Está disponível no site do Observador, na Apple Podcasts, no Spotify e no YouTube.]