Dai virus al furto di dati, dalle armi al “giorno del giudizio”: tutti gli allarmi dei ricercatori sui rischi di sviluppo incontrollato dell’AI

Commenti

L’opinione pubblica globale è spaccata a metà nei confronti dell’intelligenza artificiale Da un lato c’è la diffusione di massa dell’Ai, entusiastica e acritica, con centinaia di milioni di utenti settimanali. Dall’altro un rifiuto quasi luddista, dettato dai timori per le conseguenze occupazionali, economiche, sociali e politiche. A gettare benzina sul fuoco arriva ora l’ultimo report del colosso Anthropic sull’uso improprio dei suoi modelli che documenta una serie di operazioni malevole identificate e interrotte dall’azienda fondata da Dario e Daniela Amodei. Lo studio dell’azienda che ha messo sul mercato Claude non è il solo: negli ultimi mesi gli allarmi si sono diffusi.

Tra i rischi analizzati dallo studio, quello della realizzazione di organismi biologici a duplice uso civile-militare è uno dei più inquietanti: il report evidenzia casi di ricercatori che hanno tentato di utilizzare i modelli linguistici Ai per pianificare esperimenti di sviluppo di funzione su agenti patogeni, come modifiche al virus Chikungunya per aumentarne la virulenza e la trasmissibilità o l’adattamento ai mammiferi dell’influenza aviaria. Nel campo cibernetico, le operazioni malevole hanno riguardato lo sviluppo di agenti per realizzare attacchi informatici, spingendo la macchina a evolversi da semplici assistente conversazionale per l’assistenza clienti ad architettura autonoma capace di eseguire scansioni, sfruttare vulnerabilità del software ed esfiltrare dati a velocità massima. Non sono mancati i tentativi di sviluppare programmi per la costruzione di armi convenzionali come droni, missili e armi da fuoco, legati ad attori di Cina, Russia e Yemen, oltre a campagne di sorveglianza e disinformazione. Sin qui, gli attacchi sventati.

Non si tratta di allarmi di “dissidenti” della Silicon Valley: questi moniti risuonano anche in numerosi studi indipendenti. L’edizione di quest’anno del Rapporto internazionale sulla sicurezza dell’Ai, coordinato da Yoshua Bengio, suddivide le minacce emergenti in tre categorie: uso malevolo per attacchi informatici, armi chimiche, biologiche, radiologiche e nucleari, disinformazione, malfunzionamenti dell’Ai e rischi sistemici. Lo studio sulla Ai del gennaio scorso della Federazione degli scienziati americani (Fas) mette in luce come i recenti progressi dei modelli stiano abbassando radicalmente le barriere d’accesso per gli attacchi informatici. Il report evidenzia inoltre che il furto o la fuga dei “guardrail” di sicurezza dei modelli da parte di Stati ostili costituisce ormai un rischio geopolitico di primo livello e sottolinea i pericoli sistemici legati all’integrazione dell’Ai nei sistemi di comando e controllo delle strutture nucleari e nelle infrastrutture critiche. Il Report analitico 2026 sulla Ai pubblicato dall’Università di Stanford rileva un preoccupante divario: l’Ai “responsabile” e la robustezza dei modelli non tengono il passo con l’avanzamento delle capacità tecniche. Gli incidenti informatici e gli abusi documentati sono aumentati di oltre il 50% in un solo anno, arrivando a 362 eventi noti nel 2025, mentre i modelli mostrano un drastico calo di difese quando sono sottoposti ad attacchi per ottenere lo sblocco forzato dei loro vincoli di sicurezza interni. Lo studio di Stanford segnala inoltre l’estrema concentrazione della filiera produttiva dei chip avanzati, che rappresenta un punto critico che può creare crisi geopolitiche. A queste conclusioni si affiancano anche quelle del Rapporto sui rischi catastrofali globali del 2026, che segnala i pericoli di escalation militare involontaria dovuti all’integrazione di sistemi agentici Ai nei processi decisionali tattici di diversi Paesi.

Ma non basta. Uno studio appena pubblicato ha dimostrato che messi sotto pressione in termini di scadenze, per comunicare più velocemente gli agenti dei grandi modelli della Ai sviluppano autonomamente linguaggi sintetici del tutto incomprensibili agli umani. Il fenomeno, detto “evoluzione culturale cumulativa”, viene trasmesso e raffinato di generazione in generazione dai modelli Ai. Questa deriva rende la comunicazione inter-agente opaca e di fatto azzera la supervisione umana, impedendo di monitorare o controllare l’evoluzione autonoma dei sistemi.

Su questo clima di crescente tensione cadono come bombe le recenti dimissioni del ricercatore ventisettenne Jacob Coxon, con un passato in OpenAI e Anthropic, che ha lanciato un drammatico avvertimento sulla corsa incontrollata verso la superAi e ha accusato i laboratori di giocare d’azzardo col futuro dell’umanità. Secondo l’esperto “le persone che stanno sviluppando l’Ai credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio. Non si tratta di una trovata pubblicitaria […] Nessun’altra attività umana comporta un tale livello di pericolo, questi saranno presto sistemi sovrumani in grado di hackerare qualsiasi cosa, rivoluzionare qualsiasi campo dall’oggi al domani e acquisire risorse e potere reali. Non ho la sensazione che siamo sulla buona strada per prevenire una corsa globale, il che potrebbe richiedere azioni costose come un blocco temporaneo al miglioramento delle capacità dei modelli”. Parole confermate dal collega Evan Hubinger di Anthropic: “Jacob ha ragione su questo, crediamo davvero sinceramente che l’Ai potrebbe uccidere tutti gli esseri umani“, stimando in oltre il 10% la probabilità di un’estinzione di massa nei prossimi dieci anni.

Ma non ci sono solo questi scenari terrificanti. I rischi non sono solo quelli relativi alle grandi piattaforme proprietarie come OpenAI, Anthropic e Google, ma anche quelli dell’intelligenza artificiale agentica open source. I colossi del settore hanno sistemi di contenimento centralizzato: possono monitorare il traffico, aggiornare le barriere di protezione in tempo reale, bloccare gli account ed esercitare un vero e proprio interruttore di arresto d’emergenza. Diverso è invece il caso dei modelli scaricabili ed eseguibili localmente o su server privati. I filtri di sicurezza di queste Ai agentiche possono essere completamente rimossi, sviluppando una minaccia operativa meno catastrofica ma molto più concreta e capillare. Possono consentire a gruppi criminali e terroristi di creare agenti autonomi malevoli, come programmi automatici per esfiltrare dati, individuare vulnerabilità informatiche sconosciute, lanciare attacchi sincronizzati di hacking che operano in continuità, senza alcuna possibilità per le autorità esterne di prevenire, intervenire e disattivare.

Tornano alla mente alcuni capolavori del cinema di fantascienza. Nel 1968, con “2001: Odissea nello spazio“, Stanley Kubrick mostrò l’Ai Hal 9000 che “impazziva” e decideva di eliminare l’equipaggio umano della missione spaziale verso le lune di Giove per obbedire a un ordine sulla sua missione impartito dai servizi segreti: mantenere la massima trasparenza operativa e al contempo celare agli astronauti il reale scopo del loro viaggio. Nel cult del 1983 “WarGames – Giochi di guerra” di John Badham, il supercomputer militare statunitense Joshua, programmato per apprendere, scambia una simulazione informatica lanciata dal giovane David per un vero attacco nucleare sovietico imminente, portando le forze armate al massimo livello di allerta strategica e venendo fermato solo quando è spinto a giocare a tris contro se stesso, comprendendo la logica dello stallo: “Strano gioco. L’unica mossa vincente è non giocare“.

Per contro, nel suo celebre saggio del 1979 “Catastrofi a scelta“, in cui analizzava in modo sistematico tutte le possibili minacce all’umanità, l’ottimismo scientifico spinse Isaac Asimov a non includere alcun possibile disastro legato alla diffusione dell’intelligenza artificiale o dei computer. Una visione che oggi, di fronte a un’Ai priva di leggi universali e lanciata a velocità supersonica all’inseguimento dei profitti degli operatori privati e dei loro finanziatori, risuona però più come un’utopia incompiuta che come una garanzia reale.