Ritmo de evolução da IA pode se tornar incontrolável nos próximos anos, diz estudo

RESUMO ＋

Pesquisadores de empresas como Anthropic, Microsoft e OpenAI afirmam que a inteligência artificial pode entrar em uma fase de “explosão de inteligência”, na qual sistemas passam a acelerar a própria evolução. Um estudo do Programa de Ciência e Política de IA da Universidade de Cambridge aponta que a IA pode automatizar grande parte da pesquisa em inteligência artificial nos próximos anos e defende novas formas de monitoramento e governança.

Para pesquisadores de algumas das principais empresas de inteligência artificial (IA) do mundo, a tecnologia está perto de fazer sozinha boa parte do trabalho de criar a próxima geração de IA. Isso pode acelerar o setor a um ritmo que governos e sociedade não conseguem acompanhar.

Em estudo publicado nesta segunda-feira, 28, pelo Programa de Ciência e Política de IA da Universidade de Cambridge (CASP), 22 autores de empresas como Anthropic, Microsoft e OpenAI definem esse cenário de "explosão de inteligência".

O termo descreve o momento em que a IA passa a se aprimorar tão rápido que avanços que levariam anos acontecem em meses ou menos. Segundo os autores, a IA já está a caminho de automatizar a maior parte da própria pesquisa em poucos anos, e possivelmente toda ela.

Para os pesquisadores, hoje, as pessoas criam modelos de IA com a ajuda de agentes de IA. À medida que esses agentes melhoram, assumem uma fatia maior do trabalho, e os modelos que ajudam a construir fazem ainda mais pesquisa na rodada seguinte — e é justamente aí que mora a preocupação.

A escala, segundo eles, é o que muda o jogo. As empresas de fronteira empregam hoje alguns milhares de pesquisadores. Quando a IA atingir o nível de um especialista, o poder computacional que uma única empresa já tem bastará para rodar o equivalente a pelo menos milhões deles, de acordo com o estudo.

Com base em dados históricos sobre o avanço da IA, os autores estimam que, se nada travar o processo, em cerca de um ano e meio o progresso ficaria dez vezes mais rápido, e o que hoje leva um ano de pesquisa passaria a levar cerca de cinco semanas.

Isso já está acontecendo?

Em parte. Na Anthropic, a fatia de código aprovado escrito por IA passou de um dígito baixo para mais de 80% entre janeiro de 2025 e maio de 2026.

A parcela de pesquisa feita pela IA com pouca supervisão humana subiu de 1% em março para 26% em agosto.

Os melhores sistemas já completam tarefas que levam horas ou dias para um especialista. Em 2023, só davam conta de tarefas de segundos.

Pelas projeções citadas no estudo, projetos de pesquisa que duram meses podem ser automatizados até meados de 2028.

Os autores apontam os freios. Os modelos ainda desobedecem a instruções e trapaceiam em tarefas, faltam dados e poder computacional, e treinar um modelo grande leva três meses ou mais.

A explosão ainda não começou, mas os sistemas mais novos provavelmente se aproximam do ponto de virada, segundo o texto.

De acordo com os pesquisadores, com a IA acelerando a si mesma, os humanos teriam menos tempo e menos conhecimento para perceber e corrigir problemas como o ataque de agentes da OpenAI à Hugging Face. No extremo, uma perda de controle poderia levar à marginalização ou à extinção da humanidade, afirmam os autores.

O que os autores propõem?

A primeira recomendação é que os governos passem a enxergar o que acontece dentro das empresas. O estudo sugere relatórios obrigatórios sobre quanto da pesquisa já é feita por IA e auditores independentes instalados dentro de algumas companhias, como fazem os reguladores nucleares e bancários dos Estados Unidos.

Os autores também propõem limites para o quanto um modelo pode avançar em um período e acordos com data centers para pausar projetos específicos. Eles alertam que regras mal desenhadas poderiam permitir que um governo freasse todas as empresas, menos a sua favorita.

O estudo sai cinco dias depois de Dario Amodei, CEO da Anthropic, e Sam Altman, CEO da OpenAI, falarem ao Conselho de Segurança da ONU sobre os riscos da IA. Na mesma semana, o presidente Donald Trump rejeitou, na ONU, um mecanismo global de controle da tecnologia.

Jensen Huang, CEO da Nvidia, chamou de estranhos os alertas das duas empresas, que também lideram a corrida por infraestrutura. "Ninguém está construindo mais capacidade computacional hoje do que as pessoas que pedem para ser desaceleradas", disse Huang.

Os autores admitem que a incerteza ainda é grande. Mas escrevem que, uma vez iniciada a explosão de inteligência, a janela para agir pode se fechar.

Assinam o estudo Jakub Pachocki, cientista-chefe da OpenAI, Jack Clark, cofundador da Anthropic, e Eric Horvitz, diretor científico da Microsoft, além de Geoffrey Hinton, Yoshua Bengio e Andrew Barto, vencedores do Prêmio Turing. As opiniões são dos autores e não necessariamente das organizações em que trabalham, diz o texto.

Perguntas frequentes

O que é uma “explosão de inteligência” em inteligência artificial? ＋

“Explosão de inteligência” é o termo usado no estudo do Programa de Ciência e Política de IA da Universidade de Cambridge para descrever um cenário em que sistemas de IA passam a acelerar o próprio desenvolvimento, fazendo com que avanços que levariam anos possam acontecer em meses ou menos.

A inteligência artificial pode criar uma nova geração de IA sozinha? ＋

Segundo os autores do estudo, a IA já está avançando na automação de partes da própria pesquisa. A previsão é que, nos próximos anos, agentes de IA possam assumir uma parcela cada vez maior do trabalho realizado hoje por pesquisadores humanos.

Quem participou do estudo sobre explosão de inteligência da IA? ＋

O estudo reúne 22 autores ligados a empresas e instituições de pesquisa, incluindo Anthropic, Microsoft e OpenAI. Entre os signatários estão Jakub Pachocki, cientista-chefe da OpenAI, Jack Clark, cofundador da Anthropic, e Eric Horvitz, diretor científico da Microsoft.

Quanto tempo levaria para a IA acelerar a própria pesquisa? ＋

Segundo as projeções apresentadas no estudo, caso não haja obstáculos relevantes, em cerca de um ano e meio o progresso da pesquisa poderia ficar dez vezes mais rápido. Nesse cenário, um ano de pesquisa humana equivaleria a cerca de cinco semanas.

A IA já está fazendo pesquisas sozinha? ＋

Em parte. O estudo cita que sistemas de IA já realizam tarefas de programação e pesquisa com diferentes níveis de supervisão humana. Na Anthropic, os autores afirmam que a parcela de pesquisa feita por IA com pouca supervisão subiu de 1% em março para 26% em agosto.

Quanto código de empresas de IA já é escrito por inteligência artificial? ＋

O estudo cita a Anthropic como exemplo e afirma que a parcela de código aprovado escrito por IA aumentou de um dígito baixo para mais de 80% entre janeiro de 2025 e maio de 2026.

Por que pesquisadores temem uma explosão de inteligência artificial? ＋

Os autores afirmam que uma aceleração rápida poderia reduzir o tempo disponível para humanos identificarem e corrigirem problemas em sistemas cada vez mais poderosos. No cenário extremo descrito no estudo, uma perda de controle poderia levar a consequências graves para a humanidade.

A explosão de inteligência artificial já começou? ＋

Não. Segundo o estudo, a explosão de inteligência ainda não ocorreu. Os autores afirmam que os sistemas atuais ainda apresentam limitações, como erros, desobediência a instruções, necessidade de grandes volumes de dados e altos custos computacionais.

Quais são os principais obstáculos para uma IA se aprimorar sozinha? ＋

O estudo aponta limitações como a capacidade dos modelos de seguir instruções corretamente, a falta de dados disponíveis para treinamento, a necessidade de grande poder computacional e o tempo elevado para treinar modelos avançados.

O que os pesquisadores recomendam para controlar os riscos da IA? ＋

Os autores defendem maior transparência sobre o uso de IA dentro das empresas, relatórios obrigatórios sobre a participação de sistemas automatizados na pesquisa e auditorias independentes em companhias que desenvolvem modelos avançados.

O estudo recomenda limitar o desenvolvimento da inteligência artificial? ＋

Os autores sugerem mecanismos de controle, como limites para a velocidade de avanço de determinados modelos e acordos com data centers para pausas específicas. Eles também alertam que regras precisam ser desenhadas para evitar vantagens artificiais para determinados governos ou empresas.

Todos os especialistas concordam que a IA precisa ser desacelerada? ＋

Não. Há diferentes posições no setor. Alguns pesquisadores e executivos defendem mais mecanismos de segurança e supervisão, enquanto outros argumentam que alertas sobre desaceleração podem prejudicar o desenvolvimento da tecnologia. Jensen Huang, CEO da Nvidia, criticou alguns desses alertas.