Enquanto mundo debate os riscos, IA já foi à guerra

O acalorado debate acerca dos riscos existenciais que a inteligência artificial representa para o ser humano até aqui não deteve a marcha dos robôs para a guerra real, dando materialidade a alguns aspectos do apocalipse propagandeado pelas big techs.

Nunca se investiu tanto em sistemas militares autônomos e infraestrutura de IA. Para ficar com a maior potência da história, os Estados Unidos, nada menos do que cerca de R$ 1 trilhão foi requisitado ao Congresso pelo governo Donald Trump para o setor no ano fiscal de 2027.

Trilhão. Não bilhão ou milhão, quase 10% do PIB do Brasil. O valor é 45% superior ao aprovado para o período anterior, que vai de outubro a setembro de cada ano. Só o chamado Grupo de Guerra Autônomo viu sua verba subir de R$ 1,1 bilhão para R$ 285 bilhões.

É esse dinheiro que Trump quer ver canalizado para uma corrida que os donos das grandes empresas da área, como a Anthropic e a OpenAI, têm vocalizado estar rápida demais. Para o presidente, isso é alarmismo de quem quer controlar processos.

Há também a questão do negócio em si. O Pentágono cancelou neste ano um acordo de R$ 1 bilhão com a Anthropic, vetando o uso da IA Claude em seus sistemas. A empresas foi à Justiça, num caso ainda em andamento.

Acerca dos riscos, na ponta de quem lida com o assunto os temores fazem parte da cartilha. "Oficiais de ética são o futuro, no fim você precisa colocar um humano no jogo. A tecnologia pode fazer o que quiser", diz Peter Nilsson.

Ele é o chefe da divisão de armas avançadas da Saab, a empresa sueca que fabrica o caça Gripen, adotado pelo Brasil. Nilsson conversou com jornalistas durante uma visita à sede da firma em Linköping em junho.

A Saab é uma das líderes em inovação na área de defesa. Uma versão do Gripen usou IA para controlar ângulos de manobras e soluções de disparo em junho do ano passado, em uma parceria com a alemã Helsing.

Foi a primeira vez que um caça simulou um ataque a longa distância contra outro avião, controlando o aparelho. A bordo estava o legendário piloto de testes Marcus Wandt, hoje chefe da divisão de Aeronáutica da Saab. "Eu vi ele [o agente de IA] fazer manobras que nunca tinha visto", afirma.

Não é uma aspiração nova. Os EUA testam há anos uma versão sem piloto do F-16, e a Marinha acaba de aprovar a compra de um drone semiautônomo da Boeing para emprego em porta-aviões.

Na França, a Dassault acaba de testar dois algoritmos de assistência ao piloto de seu caça Rafale, a partir de fusão de dados no pod Talios, da Thales.

Na Rússia, o avião de quinta geração Su-57 testa voo conjunto com o drone pesado Okhotnik, da mesma Sukhoi. Algo já deu errado em 2024, quando o caça teve de abater o robô sobre a Ucrânia ocupada após ter perdido o controle, mas os detalhes são escassos.

Na China e, em menor escala, na Índia e potências regionais como o Irã, Paquistão, Turquia e países do Golfo Pérsico, há programas diversos com os mesmos objetivos. A Coreia do Norte diz ter testado no começo deste mês um míssil balístico que usa IA para manobrar rumo ao alvo.

Até o Brasil tem reservados R$ 520 milhões para o Exército lidar com drones em 2027, restando saber se o dinheiro será liberado.

Mas a Saab foi um passo além e, neste ano, apresentou o projeto de seu drone, chamado ainda de A3-001, diferente em concepção.

A ideia é que uma esquadrilha do aparelho, que será supersônico em oposição aos usualmente subsônicos modelos atuais, fique subordinada a um Gripen, preferencialmente o modelo F de dois lugares desenvolvido com o Brasil para liberar o piloto principal.

Só que, em vez de controlá-los, os aviadores apenas dariam a ordem de ataque, deixando o máximo de liberdade de ação tática para os robôs. O truque para a manutenção do controle humano é manter travas específicas na programação das IAs.

"Se liberar, não tem como controlar o 'loyal wingman'", diz Wandt, em referência ao nome em inglês para parceiro leal, apelido no setor para esse tipo de drone. É evidente, contudo, que todo esse cuidado tende a se tornar inócuo se a singularidade for atingida.

O jargão designa o momento em que a IA pensará sozinha, aprendendo em razão exponencial. Enquanto cientistas, governos e empresários debatem se estamos a poucos ou muito poucos anos (meses? semanas?) deste dia D, a automação já é realidade no mundo dos combates.

Na Guerra da Ucrânia, ambos os lados empregam drones simples que escolhem alvos cada vez menos predeterminados nas linhas de frente, e os modelos de longa distância como o Gerânio-5 russo contam com sistemas que decidem qual o melhor caminho a seguir sozinhos quando perdem cobertura de satélite.

As águas do mar Negro são testemunhas desse avanço, com mais prejuízo a Moscou, dada a variedade de drones autônomos e semiautônomos de Kiev —inspirando iniciativas análogas como a anunciada recentemente pela Saab.

Até a primeira batalha naval entre robôs ocorreu em setembro. Pequenos blindados fazem as vezes de ambulância e soldados nas "zonas da morte" em que drones são onipresentes.

Mas é a singularidade que levou o debate ao nível de disputa global, com China e EUA polarizando a corrida. Sobram exemplos ficcionais sobre o momento: a Skynet que destrói o mundo em "O Exterminador do Futuro", o computador de "2001", até um "loyal wingman" rebelde no muito menor filme de ação "Stealth".

Lá Fora

Receba no seu email uma seleção semanal com o que de mais importante aconteceu no mundo

Aqui a balança pende mais para o lado de quem vê alarmismo na discussão atual.

Ainda que consiga, ao estilo do filme "Jogos de Guerra" (1983), decidir lançar mísseis nucleares prevendo uma retaliação que acabe com a humanidade, não há no horizonte um cenário no qual as pessoas sejam descartáveis para a existência dos robôs —da produção à manutenção, passando pelo manejo de fontes de energia.

Por outro lado, se o proverbial robô decidir que quer se emancipar, pode fazê-lo atingindo infraestruturas críticas como usinas nucleares, redes elétricas ou represas de forma pontual. O estrago potencial é enorme de todo modo, como alertou nesta semana Bill Gates (Microsoft).

Esse é um risco mais palpável. Já é clássico o relato na Força Aérea dos EUA de como um agente de IA decidiu por conta matar o operador do seu drone porque ele atrapalhava a missão numa simulação. Ou o estudo em que Claude, ChatGPT e Gemini preferiram empregar armas nucleares a negociar o fim de crises.

O problema óbvio é que isso é hoje. Com o investimento feito por governos e sua queda de braço com as big techs, o futuro é turvo. "A única certeza que temos é que lidamos com a incerteza", resume de forma socrática o sueco Nilsson.