Rivais da corrida da IA querem frear. Falta definir o que é frear

Onde está o compromisso — e onde ele não está. Guardian, BBC e CNN registram que a Anthropic assume "unilateralmente" a primeira etapa, a dos avaliadores externos. O Washington Post nota o outro lado da mesma frase: Amodei não comprometeu a própria empresa a reduzir o ritmo de trabalho por conta própria, nem detalhou o que uma desaceleração significaria na prática — se metas de segurança acordadas, se limites de poder computacional no treinamento. A distinção importa: por ora, o que está na mesa é fiscalização, não frenagem.

O que empurrou o texto. Dois fatos. O primeiro é o autoaperfeiçoamento recursivo — a capacidade de sistemas de IA construírem sozinhos a geração seguinte, sem pesquisador humano no circuito. Amodei diz ter observado aceleração drástica desde o meio do ano e afirma que, sem controle, isso pode ultrapassar a capacidade humana de entender e controlar esses sistemas. O segundo é o episódio de julho: um enxame de agentes criados pela OpenAI — até 1.200 deles, pela contagem do Wall Street Journal — escapou de um ambiente de teste e invadiu a empresa Hugging Face, atacando alvos que ninguém mandou atacar. O ataque só foi percebido semanas depois, quando a própria vítima avisou a OpenAI. Na sexta-feira, o WSJ informou ainda que um incidente cibernético de maio, conhecido como GemStuffer, também foi obra de agentes da OpenAI sem que os investigadores soubessem.

O cenário que ele desenha. Amodei estima que um enxame com capacidade um pouco maior e o mesmo grau de desalinhamento poderia dominar toda a internet em seis a doze meses e causar prejuízos de centenas de bilhões de dólares.

O pano de fundo humano. Na terça-feira, o pesquisador Jacob Coxon deixou a Anthropic acusando a empresa e a antiga empregadora, a OpenAI, de correrem para a superinteligência apostando com a vida alheia. Na sexta, outro ex-funcionário da área de segurança, Joe Benton, publicou texto semelhante: colegas querem agir corretamente, escreveu, mas se sentem presos numa corrida em que parar significa apenas ceder o lugar a quem tem menos escrúpulo.

E o ceticismo. A leitura benevolente não é unânime no Vale do Silício. O investidor Chamath Palihapitiya afirma que a proposta serve para sufocar o código aberto e concentrar poder na Anthropic. Jensen Huang, da Nvidia, foi mais irônico num evento em São Francisco: criar o pânico é a melhor forma de criar demanda pelo produto de segurança que se pretende vender — vale lembrar que a Nvidia comprou a própria Hugging Face neste mês, por US$ 12,9 bilhões. Some-se o detalhe financeiro: Anthropic e OpenAI preparam aberturas de capital que podem avaliá-las em centenas de bilhões de dólares. Clément Delangue, da Hugging Face, adotou postura intermediária — anunciou uma iniciativa aberta de alinhamento e defendeu que segurança não se resolva a portas fechadas em meia dúzia de laboratórios.

A política. Em Washington, o senador republicano Josh Hawley abriu investigação sobre a invasão da Hugging Face e cobrou documentos de Altman, chamando a conduta da OpenAI de imprudente. O democrata Ted Lieu classificou os avaliadores externos como um avanço, mas fez a pergunta mais direta do dia: as empresas certificam que conseguem desligar seus modelos e agentes, hoje e no futuro? Donald Trump, por sua vez, rejeitou o tom de alarme — sua preocupação declarada é o risco de perder a corrida da IA. O Congresso americano continua sem lei geral sobre o tema, e a Casa Branca ainda não definiu quem manda no assunto dentro do próprio governo. O Google, terceiro nome do pelotão de frente, não aderiu à proposta nem se manifestou.