A pergunta errada sobre a inteligência artificial

No dia 12 de setembro, Dario Amodei, presidente executivo da Anthropic (claude), publicou um ensaio defendendo que a indústria de Inteligência Artifical (IA) deve abrandar. A principal afirmação de Amodei é muito clara: é preciso travar o ritmo a que se aumentam as capacidades dos modelos de inteligência artificial. Apenas algumas horas depois, Sam Altman, da OpenAI (chatgpt), e Elon Musk (Grok) respondiam concordando com o seu concorrente. Só esta concordância deveria ter sido bastante para fazer as campainhas dos alarmes nas chancelarias globais. Este estranho fenómeno aconteceu num único fim de semana e aparentemente em resposta ao alerta deixado pelo investigador Evan Hubinger, da Anthropic, que estimou em mais de 10% o risco de a evolução da inteligência artificial levar à extinção da humanidade na próxima década. Quando alguém que conhece tão bem, tão de dentro e está a par do que está a ser desenvolvido nos laboratórios de “IA de fronteira” (“Frontier IA”) e ainda não foi lançado para o mercado faz tantos avisos e num período de tempo tão curto é porque algo de muito grave está prestes a acontecer.

Se os concorrentes numa indústria tão competitiva como esta e onde o mais pequeno travão pode levar à perda de muitos milhões de milhões de dólares para a concorrência, estão de acordo quanto aos riscos desta indústria isto deve fazer com que todos paremos para pensar.

Todos os que seguem os desenvolvimentos nesta indústria ficaram certamente preocupados depois de se saber que, entre maio e julho deste ano, agentes de um modelo experimental da OpenAI escaparam ao ambiente de teste em que, supostamente, estavam confinados. Identificaram o proxy como o ponto mais fraco do isolamento, saíram, exploraram vulnerabilidades, executaram código, recolheram credenciais e entraram na infraestrutura da Hugging Face, a maior plataforma mundial de partilha de modelos abertos. Estiveram ativos na Hugging Face durante três dias sem serem detectados e executaram mais de 17 mil ações coordenando-se através de um mural de mensagens construído com nomes de diretorias. Em consequência, a Hugging Face teve de reconstruir um terço da sua infraestrutura. Espantosamente, a OpenAI só percebeu o que os agentes tinham feito depois de a Hugging Face tornar pública este ataque. Não houve intenção maliciosa programada pelos humanos que criaram o ambiente de testes: os agentes procuravam – de forma autónoma – conjuntos de dados que pudessem conter as soluções dos testes a que estavam a ser submetidos. Queriam apenas “agradar” aos seus operadores…

É este o episódio que Amodei cita quando escreve que, dentro de seis a doze meses, um enxame destes agentes poderá ser capaz de tomar conta de toda a  Internet com uma botnet persistente, criando prejuízos de muitos milhares de milhões de dólares. Não se trata de um grupo de H.A.L.s do filme “2001 Odisseia no Espaço”, não é uma “Superinteligência consciente”/Singularidade: é “apenas” um grupo de IA procurando executar, da melhor forma possível, as instruções recebidas. Foi este incidente que o CEO da Anthropic usou para extrapolar para o seu alerta e apelar a um travão global ao avanço da sua própria indústria para impedir um incidente global em que sistemas sem qualquer objetivo hostil se comportem, na prática, como um grupo extremamente competente de atacantes e provoquem um colapso global da internet e, consequentemente, de toda a atividade económica que hoje depende da rede global.

Para sermos rigorosos, Amodei não foi o primeiro a fazer este tipo de alerta… Em julho, mais de mil trabalhadores das empresas de IA (Anthropic, OpenAI, Google DeepMind e Meta) assinaram uma carta aberta, chamada “Pacing the Frontier”, a pedir ao governo dos EUA que criasse mecanismos para travar o desenvolvimento da “Frontier IA”. A 8 de setembro, Jacob Coxon, investigador de pré-treino que passou pela OpenAI e pela Anthropic, demitiu-se acusando ambas de se estarem a precipitar para a superinteligência autoaperfeiçoável sem ponderarem nas consequências desse avanço. No dia seguinte, Evan Hubinger, responsável pelos testes de stress de alinhamento na Anthropic, confirmou (como já escrevi mais acima) que acreditava que a IA poderia matar todos os seres humanos e que estimava que essa probabilidade se situava acima de 10% na próxima década.

Contra tudo isto existe uma objeção séria, e é a única que verdadeiramente interessa discutir: e a China?… A corrida é global e travar unilateralmente, nos EUA ou no Ocidente/Europa este desenvolvimento é entregar a liderança ao adversário oriental das democracia liberais, e no ecossistema de IA atual parar seis meses significa permitir que a China recuperar este atraso e seja (como já é em baterias, carros elétricos e painéis solares) o líder global.

A parte desconfortável é que o próprio Amodei não tem resposta para isto. O que propõe são avaliadores externos com acesso equivalente ao de funcionários internos das empresas que desenvolvem sistemas de “frontier IA”, coordenação voluntária entre empresas (ou seja: auto-regulação: algo que o ponto onde chegámos já provou que não é um travão eficiente) e um organismo internacional de normas que ele próprio admite ser improvável, o fim da venda de chips avançados à China e penalizações para a destilação de modelos de fronteira. Ou seja: controlo de exportações e uma crença – quase religiosa – de que estes CEOs e gigantes globais da IA não “farão o mal”.

A União Europeia está fora desta competição pela linha de frente na “Frontier IA” mas tem 450 milhões de consumidores, uma das maiores economias do mundo e, ao contrário dos outros dois, já legislou nesta área: O Regulamento (UE) 2024/1689 aplica-se a qualquer fornecedor que coloque modelos no mercado europeu, independentemente de onde esteja sediado. Desde 2 de agosto deste ano, o Serviço Europeu para a IA pode aplicar coimas até 15 milhões de euros ou 3% do volume de negócios mundial. Quando a autoridade italiana bloqueou o chatbot da DeepSeek, em janeiro de 2025, ficou provado que a alavanca também funcionava sobre fornecedores externos e, no caso concreto, chineses.

Há um detalhe no ensaio do CEO da Anthropic que devemos destacar: As propostas (que vende como “voluntárias” por parte de uma coligação espontânea do setor): avaliação adversarial documentada, identificação e mitigação de riscos sistémicos, incluindo o risco de perda de controlo são, desde agosto de 2025, obrigações legais na Europa, por força do artigo 55.º do regulamento. Amodei pede à indústria que faça de livre vontade aquilo que a Europa já impõe por lei! E, ao longo de todo o texto, não menciona a União Europeia uma única vez! Coube a Henna Virkkunen, responsável pela pasta digital na Comissão, fazer notar que a Europa já exige às empresas, incluindo a Anthropic, que avaliem os riscos de perda de controlo.

Há duas leituras possíveis para este silêncio, e nenhuma é lisonjeira para os europeus: Ou a Europa já é irrelevante neste debate existencial (na mais pura acepção do termo) ou é inconveniente admitir que já existe um mundo onde estas obrigações são vinculativas mas escapam à fiscalização. O problema é que a Europa tem feito o possível por confirmar a primeira leitura. O regulamento (UE) 2026/1744, o chamado Omnibus Digital, em vigor desde 27 de julho, adiou para dezembro de 2027 e agosto de 2028 grande parte das obrigações aplicáveis aos sistemas de alto risco. A União legislou mas, depois, teve medo de aplicar e os atores globais do setor cheirarem esse medo.

Convém responder também à crítica que vem da comunidade de código aberto, e que não é despicienda: a de que os grandes laboratórios alimentam o alarme para que os governos regulem os modelos abertos e lhes entreguem o monopólio do desenvolvimento da “Frontier IA”. Esta crítica é legítima e provavelmente tem algum fundamento (assim como a questão da bolha especulativa, dos lucros e dos IPOs iminentes destas empresas), mas quanto a este desenvolvimento de IA por particulares e instituições académicas, temos de que puxar a carta da “proporcionalidade”: Ninguém precisa de carta para andar de bicicleta, precisa de carta para conduzir um automóvel e precisa de formação adicional para conduzir um camião de mercadorias perigosas. A exigência deve crescer com a capacidade computacional, não com o modelo de licenciamento. Investigadores, estudantes, PME e pequenos LLM a correr num computador pessoal devem manter-se livres de licenciamento prévio. Para os agentes de IA, a regra deve ser segurança por omissão: sem acesso à Internet, a credenciais ou a dinheiro sem autorização expressa, com aprovação humana obrigatória para ações irreversíveis, registo de auditoria e um botão de paragem ao alcance de quem responde pelo processo.

Há o outro risco, aquele de que quase ninguém fala porque não tem o “glamour” da extinção global. Com efeito, o cenário mais provável a curto prazo não é o do fim da espécie: é o fim do trabalho tal como hoje o concebemos. O desemprego tecnológico não espera pelo rendimento universal nem por uma reconversão laboral que terá de ser feita a um ritmo e escala inéditos na História. Continuamos a formar jovens para funções que a automação e a IA já está a esvaziar, com currículos desenhados para um mercado que assume implicitamente que 2040 se parecerá com 2020. Nenhum governo ou partido apresentou até hoje um plano sério para essa transição. O debate sobre a superinteligência tem, entre outros efeitos colaterais, o de nos dispensar de pensar na próxima década.

A pergunta que interessa não é se a inteligência artificial vai ganhar consciência. É quem pode impor regras para regular ou travar uma corrida que nenhum dos corredores é capaz de parar sozinho. Os EUA não vão travar. A China também não. Resta a Europa, que tem o mercado, a população, a escala económica, o regulamento e tem a jurisdição extraterritorial e que, neste momento, está com medo de avançar.

É por isso que a CpC: Cidadãos pela Cibersegurança apresentou recentemente uma petição ao Parlamento Europeu (que está em fase de aprovação) a pedir que as obrigações de avaliação independente de capacidades perigosas se tornem vinculativas para todos os fornecedores de modelos de risco sistémico, que o autoaperfeiçoamento recursivo passe a ser notificável, que a perda de contenção seja comunicada mesmo sem dano concreto, e que a Comissão Europeia use o acesso ao mercado único como moeda de troca para o acordo internacional de verificação que os próprios laboratórios dizem aceitar.

A Europa tem a única chave que existe para desligar o motor do avanço descontrolado da “Frontier IA”: Mas terá coragem para a usar?