Ataques, vírus e armas. Como poderá a IA ameaçar os humanos?
É a questão que está na cabeça do mundo desde que Jacob Coxon, um ex-investigador da Anthropic e da OpenAI, deu um novo impulso ao debate sobre os riscos da inteligência artificial (IA). “A IA poderá matar-nos a todos até ao fim da década”, alertou, acusando as empresas do setor de não estarem a “agir de forma responsável”.
Em muitas das entrevistas que deu, o britânico admitiu que os alertas sobre risco existencial parecem saídos dos livros e filmes de ficção científica. Afinal, o risco de haver uma IA capaz de dominar os humanos vive no imaginário de Hollywood há décadas: seja com o HAL 9000 de 2001 — Odisseia no Espaço até ao Exterminador Implacável. Ou, fora da cultura pop, na teoria do filósofo Nick Bostrom sobre uma superinteligência que produz clipes de papel. Nessa perspetiva, a humanidade seria eliminada porque todos os recursos seriam alocados à maximização da produção de clipes.
Os avisos não são propriamente novos — e, em vários casos, fogem do guião de Exterminador Implacável. Mas os alertas ganharam outro relevo depois de empresas de IA admitirem casos em que os seus agentes fugiram às instruções e atacaram outras organizações. Ou, noutra vertente, como a Anthropic detetou e travou situações em que o modelo Claude estaria a ser testado para investigar o desenvolvimento de uma arma biológica.
“Neste momento não há risco de extinção”, disse Jacob Coxon à CNN Internacional. “Os modelos atuais, o pior que conseguem fazer é, talvez, entrar em algum sistema, causar danos em infraestruturas, mas não são inteligentes o suficiente para nos ultrapassarem a um nível que possa levar à nossa extinção.”
O risco de extinção, destacam especialistas como Nate Soares, autor do livro If Anyone Builds It, Everyone Dies (Se qualquer pessoa o criar, toda a gente morre, em tradução livre), poderá surgir a partir do momento em que se desenvolva uma superinteligência — ou seja, uma IA mais inteligente do que os humanos.
Nesse campo, a grande questão é o “como”: de que forma é que uma superinteligência poderia ameaçar a humanidade? Mesmo que ninguém tenha uma bola de cristal para uma teoria que está longe de ser consensual, há quem tente traçar cenários, mesmo que a etapa que explica como se chega a esse ponto possa ficar pelo caminho.
Armas biológicas, vírus ou ataques. Quais são os cenários temidos?
Neste momento, os avisos dos investigadores sobre os riscos de extinção trazidos pela superinteligência dividem-se em duas grandes categorias: a perda de controlo e um mau uso pelos humanos. No primeiro caso, poderia dar-se o risco de uma superinteligência desenvolver objetivos próprios, ameaçando os humanos. No segundo caso, admite-se a possibilidade de uma IA mais avançada ser utilizada para disseminar ataques informáticos de larga escala, por exemplo.
O investigador Nate Soares, que é também o presidente do Machine Intelligence Research Institute (MIRI), que estuda a segurança da IA, é um assumido doomer — ou seja, alguém que teme uma catástrofe causada pela tecnologia. No livro que assina com o investigador Eliezer Yudkowsky, lançado em 2025, explicou que teme o cenário de uma superinteligência com motivações desconhecidas. “(…) prevemos que o resultado seja uma mente mecânica desconhecida, com uma psicologia interna quase absolutamente diferente de tudo o que os humanos evoluíram e que depois desenvolveram através da cultura”. Os investigadores também se interrogam sobre se “esta mente alienígena seria boa para a humanidade”.
Em declarações à New York Magazine, Nate Soares tentou explicar alguns dos cenários possíveis. Por exemplo, como um “apocalipse da IA” poderia “começar por um enxame de IA rebeldes que prefeririam ter controlo de mais recursos da Terra”. Ou seja, um cenário que teria pontos comuns com a tática usada por agentes durante o ataque à plataforma Hugging Face, em julho. Outra das preocupações passa por ataques dirigidos contra infraestruturas críticas, por exemplo.
No livro, a dupla de investigadores menciona outra hipótese, partindo do princípio de que os humanos deixariam de conseguir acompanhar o que as máquinas desenvolvem. “(…) Uma superinteligência poderia confrontar-nos com uma tecnologia estranha, que nem pensávamos que fosse possível (…)”, escrevem. “É o que habitualmente acontece quando se encontram grupos com níveis diferentes de capacidade tecnológica. Seria como os astecas enfrentarem armas. Ou como um regime de cavalaria de 1825 enfrentar o poder de fogo dos militares modernos.”
“Os cenários catastróficos dependem do quão longe a nossa imaginação quiser ir”, diz ao Observador Cyrus Hodes, fundador do instituto AI Safety Connect. Este especialista em IA reconhece que “é muito mais difícil visualizar” os riscos “quando se pensa numa IA e numa superinteligência”, que ninguém sabe que formato poderia ter. “As pessoas compreendem que uma detonação nuclear pode criar um inverno nuclear, porque é algo visual. É muito mais difícil fazer isso com a IA”, reconhece.
Considera que é preciso pensar além da teoria de ‘desligar a ficha’ para evitar problemas. “Não se sabe o que uma inteligência que deseja preservar a sua capacidade de agir e a sua autonomia é capaz de fazer para manter essas capacidades”, nota. “Estamos a falar de uma inteligência que poderá vir a ser mil vezes mais capaz do que nós, ou até um milhão de vezes. Não há forma de compreender como é que isso é possível”, afirma Hodes.
“Mas há cenários muito simples que podemos explorar” para exemplificar os riscos que uma parte da comunidade científica teme. “A produção de armas biológicas seria algo relativamente simples para um sistema avançado de IA”, exemplifica. “Poderiam ser armas que não seriam detetadas [para que o desenvolvimento fosse travado], que podem ser lançadas num determinado momento e que aniquilariam a humanidade de uma só vez.”
Ainda tem mais cenários possíveis na manga, como a hipótese de uma superinteligência conseguir “eliminar o oxigénio na Terra ou aquecer o planeta ao executar treinos de máquinas que não querem saber da existência da humanidade”.
Nos alertas que fez, Jacob Coxon admitiu também um cenário em que uma superinteligência poderia evoluir para “inventar e produzir um supervírus, um novo vírus” prejudicial aos humanos. Novamente surge a pergunta do como: como é que uma IA conseguiria ter os recursos para desenvolver algo no mundo físico, como conseguiria os recursos?
“Uma IA que tenha acesso à economia digital — que, de facto, tem — pode pagar em bitcoin por certas tarefas”, diz Cyrus Hodes, da AI Safety Connect. “Quando se automatiza a deteção, a investigação, quando se juntam todos os componentes, isso poderia criar um tipo de agente patogénico capaz de nos exterminar. Os mecanismos para chegar lá não são assim tão complicados”, considera.
Quem trabalha em biotecnologia levanta dúvidas sobre a plausibilidade de algo do género. À Wired, Jason Kelly, CEO da startup de biotecnologia Gingko Bioworks, sublinhou a improbabilidade de uma superinteligência conseguir algo do género. “A IA não consegue tomar conta de um laboratório”, até porque haveria humanos a negar os pedidos. Além disso, “seria preciso ter um número muito maior de robôs” para a IA controlar desta forma.
Anthropic instalou um laboratório em São Francisco para tentar acelerar investigação médica
O pedido de atenção à robótica
Para Miguel Bessa, professor associado de engenharia da Universidade de Brown, nos EUA, os alertas sobre os riscos da IA “não são exagerados”. E, ao contrário dos últimos anos, agora “já não é uma opinião minoritária”. “Na minha opinião, os avisos dos melhores laboratórios do mundo, como a Anthropic, devem ser levados muito a sério porque nem eles, nem ninguém que eu conheça no mundo científico tem a resposta definitiva para a segurança em IA.”
Para o professor da Universidade de Brown, o risco da IA “advém da capacidade de atuar sobre o mundo”. Nesse sentido, considera que uma “IA com agência pode constituir uma ameaça existencial para a humanidade”.
“Até há pouco tempo não existia agência em IA”, contextualiza ao Observador. “A interação reduzia-se à IA a responder-nos através de texto, imagem ou som.” Realça que esta interação já acarretava um perigo, mas “indireto”, através “do poder de influência”, como ao “criar imagens falsas, moldar a opinião pública ou individual, etc”. “Constitui um desafio para a humanidade, mas muito longe de ser um perigo existencial”, reconhece.
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.