É hora de gritar 'olha o lobo mau' para o perigo da inteligência artificial

"Parece que, até abril, sabe, em tese, quando o tempo esquentar um pouco, isso vai desaparecer milagrosamente."

Foi o que o presidente Donald Trump disse sobre o surto de Covid-19 em 10 de fevereiro de 2020, cerca de um mês antes de a doença obrigar nosso país e o mundo a enfrentar um longo confinamento.

Por que me lembro disso? Porque, quando penso nas maiores catástrofes que cobri —incluindo o 11 de Setembro e a Covid-19—, chama minha atenção o fato de elas terem algo muito importante em comum: uma falha de imaginação.

É claro que especialistas do governo se prepararam, em tese, para esses acontecimentos, mas, na prática, quantos deles imaginaram que terroristas suicidas lançariam aviões comerciais contra o World Trade Center e o Pentágono?

E quantos imaginaram que um vírus respiratório surgido em Wuhan, na China, mataria milhões de pessoas e arrastaria a economia mundial para baixo durante anos?

Assim, hoje, diante da possibilidade de que a inteligência artificial, que está caindo nas mãos de agentes inescrupulosos e começando a manifestar vontade própria, possa se tornar incrivelmente desestabilizadora, minha imaginação está plenamente desperta.

Lá Fora

Receba no seu email uma seleção semanal com o que de mais importante aconteceu no mundo

Eis o que minha imaginação está me dizendo. Ela diz que as big techs dos Estados Unidos e de Pequim não estão sendo francas conosco sobre quão pouco até elas compreendem o poder e o alcance dos modelos que desenvolveram em seus laboratórios, como feiticeiros.

Diz que a Casa Branca, chefiada por Donald Trump, um homem que tantas vezes governa por meio de publicações nas redes sociais, é particularmente inadequado para o tipo de governança que a segurança da IA exige.

E diz que há tanta coisa em jogo —econômica, militar e tecnologicamente— e tão pouca confiança entre Washington e Pequim que seria preciso um milagre para os países chegarem a um acordo sobre o tipo de colaboração profunda necessária para neutralizar as ameaças mais aterrorizantes representadas pela IA.

Ainda não é tarde demais, porém, para uma reformulação radical antes que aconteça algo muito ruim, obrigando todos os envolvidos a fazer coisas que jamais imaginaram —coisas que terão de fazer em meio a uma crise de grandes proporções impulsionada pela IA.

Prefiro ser lembrado como o porquinho que gritava sobre o "lobo mau" quando ele nunca apareceu do que como alguém que foi devorado por ele. Então, lá vai: "Olha o lobo mau! Lobo, lobo, lobo".

Vou baixar a guarda quando vir as superpotências começarem a enfrentar a ameaça imediata unindo forças para defender infraestruturas críticas —sistemas de abastecimento de água, redes elétricas, a internet— em seus próprios países e no mundo inteiro.

Mas só vou respirar aliviado quando vir Washington e Pequim reunirem seus especialistas com as empresas de IA para elaborar um plano que lhes permita continuar competindo e, ao mesmo tempo, chegar a um acordo para impedir que sistemas de IA cada vez mais capazes criem riscos catastróficos nos campos da segurança cibernética, da biologia, das armas nucleares ou das finanças.

Trata-se de um desafio geopolítico, geoeconômico e tecnológico que nenhuma geração de estadistas americanos e chineses jamais enfrentou. Eles se esquivam desse desafio por sua própria conta e risco —e por nossa conta e risco também.

Quem disser que não podemos nos dar ao luxo de regulamentar agora porque isso poderia desacelerar a inovação está deixando de perceber três coisas.

Primeiro, aqueles que sustentam que a regulamentação, por definição, destrói a inovação e os mercados são "simplesmente ignorantes em relação à história", afirmou Eric Beinhocker, diretor-executivo do Institute for New Economic Thinking, da Universidade de Oxford.

"Boas regulamentações geram confiança, e a confiança faz os mercados crescerem. Como você acha que os setores aéreo e farmacêutico cresceram tanto e tão depressa? Porque as regulamentações governamentais criaram entre os consumidores a confiança de que os aviões em que viajam e os medicamentos que tomam são seguros", diz Beinhocker.

Segundo, a IA não é apenas uma tecnologia, mas também, como vem dizendo o cientista da computação Craig Mundie, "uma nova espécie". E, como uma nova espécie, já está exibindo propriedades evolutivas.

"Soltamos Darwin no silício", explicou Beinhocker. "Os modelos de IA mais recentes demonstraram capacidade de autoaperfeiçoamento, autorreplicação e autopreservação. Quando reunimos essas três coisas, e sua evolução ocorre na velocidade do silício, não na velocidade humana, temos algo extremamente poderoso, potencialmente perigoso e impossível de controlar."

Isso se torna ainda mais verdadeiro à medida que começamos a dar corpos aos nossos sistemas de IA na forma de robôs, drones e veículos. Precisamos garantir que sempre haja um ser humano envolvido no processo —que eles nunca sejam totalmente autônomos— até podermos assegurar que esses sistemas sempre atuarão em consonância com o bem-estar humano, acrescentou Beinhocker.

Terceiro, Trump administra o país da mesma forma que fazia com sua empresa, que teve de lidar com múltiplas falências: não há uma formulação de políticas, a colaboração entre secretarias é fraca e todos no governo ficam sentados esperando o que o presidente publica no Truth Social —muitas vezes com base na última pessoa com quem conversou ou em algo que ouviu na Fox News.

E, só então, tentam moldar políticas em torno disso. (Ainda bem que ao menos Bessent, segundo autoridades me disseram, mergulhou a fundo nas questões relacionadas à IA e vem conversando com os chineses. Mas ainda não se sabe se ele conseguirá pôr ordem na casa dentro deste governo em relação ao tema.)

Meus colegas do The New York Times noticiaram que pessoas próximas a Trump deixaram claro que o fato de ele descartar como uma "farsa" os temores de que a IA possa levar a uma extinção em massa não decorre de nenhuma avaliação tecnológica.

Segundo essas autoridades, isso é motivado pelo receio de Trump de que, "se o boom da inteligência artificial que impulsiona a economia americana perder força, o mercado poderá despencar e uma recessão poderá vir logo em seguida".

Esse tipo de raciocínio é uma receita para o desastre. Trump deveria estar pensando em outro presidente. Dwight D. Eisenhower disse uma frase célebre: "Os planos não valem nada, mas o planejamento é tudo". O que ele quis dizer é que nenhum plano rígido consegue sobreviver a todos os acontecimentos imprevistos que surgem quando uma guerra ou crise começa a se desenrolar.

Mas, se você passou por um processo rigoroso de planejamento —familiarizando-se com a profundidade do problema e com os tipos de coisas que podem sair do controle, além de construir confiança dentro da equipe—, aumenta enormemente sua capacidade de se adaptar em tempo real.

Foi exatamente isso que faltou nos preparativos para a guerra no Irã, e hoje estamos pagando um preço enorme por isso. Imagine o que poderá acontecer se agentes de IA —mil vezes mais inteligentes e perigosos do que Teerã ou Trump— saírem do controle.

LINK PRESENTE: Gostou deste texto? Assinante pode liberar sete acessos gratuitos de qualquer link por dia. Basta clicar no F azul abaixo.