Tara de chefões da IA por Apocalipse é teológica, não científica

Executivo ou programador de empresa de IA fazendo escarcéu sobre a vindoura extinção da humanidade, supostamente prestes a ser causada pelos brinquedinhos que eles andam inventando, já virou só mais uma segunda-feira, sinceramente —faz anos que essa conversa ganha uma manchete atrás da outra.

Nesta semana foi a vez de um rapaz de 27 anos que já trabalhou na OpenAI e agora estava na Anthropic, pedindo demissão e dizendo que a chance de uma IA destruir a nossa espécie ainda nesta década podia ser de 10%. Um colega dele que continua na empresa fez o favor de arrematar dizendo "na verdade a gente acha que a chance de genocídio planetário é superior a 10%". Ah, que ótimo.

Descendo de uma longa linhagem de capiaus desconfiados e tenho zero fascínio por geradores automáticos de lero-lero, o que faz com que o meu detector de patacoada não pare de apitar toda vez que essas declarações me aparecem na tela.

Ao mesmo tempo, acho que é simplista demais atribuir a obsessão escatológica desse povo a simples jogada de marketing, uma tentativa de seduzir governos e grandes corporações com uma promessa de poderio absoluto sobre a vida e a morte. Tentemos, portanto, pensar juntos sobre o que poderia ser esse tal "destruir a humanidade" e de onde está vindo a sanha apocalíptica de quem cria papagaio estocástico em cativeiro.

Primeiro, algo que está conspicuamente ausente das proclamações de fim do mundo iminente é o como. Eles nunca explicam como o mundo há de acabar.

Vamos supor que não exista barreira fundamental nenhuma para que uma futura IA com inteligência "mágica", sobre-humana, seja capaz de decifrar qualquer tipo de criptografia e invadir qualquer sistema online. (Note que se trata de um "vamos supor" do tamanho do Everest.)

Uma IA desse tipo, caso "endoidasse", de fato poderia criar um bocado de caos. Acabar com o uso do GPS, desligar sistemas de energia elétrica, iniciar uma campanha global de vídeos "deepfake" para desestabilizar governos, o diabo a quatro. Sem dúvida causaria mortes —talvez até muitos milhares de mortes.

Mas mesmo uma emergência desse tipo estaria tremendamente longe de causar o fim da civilização, a começar pelo fato de que os únicos artefatos produzidos por seres humanos com essa capacidade —sim, elas, nossas velhas amigas, as armas nucleares— continuam sendo controladas por pessoas de carne e osso, que precisam interagir diretamente com outras pessoas de carne e osso para que a desgraça aconteça.

Diante dessas e muitas outras limitações práticas, nada me tira da cabeça que, no fundo, os temores apocalípticos de quem está marinando no caldo de cultura de IA não passam de uma aberração teológica —tão peçonhenta, à sua própria maneira, quanto as que levavam exércitos a derramar sangue por causa de definições ligeiramente diferentes da Santíssima Trindade.

Há, entre esses sujeitos, gente que tem um desprezo pela "carne" que faria até o mais rigoroso asceta medieval parecer um glutão. Feito a caricatura de um calvinista, acreditam que nossa espécie está predeterminada a ser substituída pelo silício desde antes de todos os séculos, e que é melhor enfiar o pé no acelerador de uma vez.

Não deixa de ser sintomático que os donos do dinheiro grosso global tenham apostado todas as suas fichas nesse tipo de maluco. E o fato de serem delirantes não significa que não sejam capazes de causar muito estrago antes de darem com as fuças num muro. Regulação pesada neles —e já.

LINK PRESENTE: Gostou deste texto? Assinante pode liberar sete acessos gratuitos de qualquer link por dia. Basta clicar no F azul abaixo.