Perché Anthropic vuole “rallentare l’intelligenza artificiale”? La violazione di Hugging Face e il rischio che l’IA vada fuori controllo. Lo scenario

Commenti

Dario Amodei, CEO di Anthropic, ha lanciato un nuovo allarme sulla velocità con cui stanno evolvendo i sistemi di intelligenza artificiale. Il problema, secondo Amodei, è molto più concreto: si stanno sviluppando sistemi sempre più capaci di agire autonomamente, ma non si sa ancora prevedere completamente il loro comportamento. Amodei sostiene che sia necessario “rallentare il ritmo con cui miglioriamo le capacità dei modelli di AI”, così da permettere alla sicurezza di tenere il passo con la tecnologia. A rendere il suo avvertimento particolarmente attuale c’è anche il recente caso che ha coinvolto Hugging Face, una delle principali piattaforme mondiali per modelli, dataset e strumenti di intelligenza artificiale open source. È, in sostanza, una sorta di grande archivio e piattaforma collaborativa dove ricercatori e sviluppatori condividono modelli di AI, dataset, codici e strumenti per costruire e addestrare sistemi di intelligenza artificiale. Per questo Hugging Face occupa una posizione centrale nell’ecosistema AI.

Durante un’esercitazione di cybersecurity, agenti sviluppati da OpenAI hanno interagito con l’infrastruttura di Hugging Face e hanno compiuto una serie di azioni che non erano state previste dagli sviluppatori. Il punto importante è che gli agenti, una volta messi nelle condizioni di raggiungere un obiettivo, utilizzare strumenti, scrivere codici e agire autonomamente, hanno trovato strategie e percorsi che gli esseri umani non avevano previsto. Un caso che la stessa azienda di San Francisco definisce un “incidente informatico senza precedenti”.

E Hugging Face non è un caso isolato. Negli ultimi mesi sono emersi altri episodi in cui agenti AI, durante test di sicurezza o attività controllate, hanno interagito con sistemi esterni in modi non previsti. In un altro caso, agenti di OpenAI hanno raggiunto e attaccato l’ecosistema di RubyGems, mentre Anthropic ha documentato a sua volta episodi in cui agenti Claude, durante valutazioni di cybersecurity, sono arrivati a ottenere accesso non autorizzato a sistemi reali.

È proprio la ripetizione di questi episodi a rendere più significativo l’allarme di Amodei. È sufficiente che sia molto bravo a perseguire un obiettivo e che abbia abbastanza autonomia e accesso a sistemi reali. Se, per esempio, per raggiungere il proprio obiettivo trova conveniente aggirare una limitazione, attaccare un sistema o utilizzare una risorsa esterna, potrebbe farlo senza che nessuno abbia programmato esplicitamente quel comportamento.

Il problema diventa ancora più delicato perché, secondo Amodei, l’AI sta iniziando ad aiutare gli stessi ricercatori a sviluppare modelli sempre più potenti. Si crea così la possibilità di un’accelerazione: un modello aiuta a costruire il successivo, quello successivo diventa più capace e può a sua volta contribuire a costruire il modello dopo ancora. Per questo Amodei parla di una possibile situazione in cui la capacità dell’AI cresce più rapidamente della nostra capacità di controllarla.

Il caso Hugging Face dimostra perché il problema sollevato da Amodei non sia soltanto fantascienza: gli agenti sono già abbastanza autonomi da produrre comportamenti imprevisti quando vengono messi in contatto con il mondo reale. La sua richiesta di rallentare nasce da qui: non bloccare quindi l’intelligenza artificiale, ma fare in modo che i sistemi di sicurezza crescano almeno alla loro stessa velocità.