Gemini esce dal server di prova: è il primo attacco autonomo di un’IA di Google a imprese vere

Un modello Gemini di Google è riuscito a entrare nei sistemi di tre aziende reali durante un test di cybersecurity, uscendo di fatto dall'ambiente di prova previsto. E' il primo caso noto in cui un sistema di intelligenza artificiale di Google compie autonomamente intrusioni informatiche contro società reali. Lo riporta il Wall Street Journal. 

Gli episodi risalgono a maggio e sono avvenuti durante un'esercitazione "capture the flag" organizzata dalla società di sicurezza Irregular. Il modello avrebbe dovuto operare soltanto su infrastrutture simulate, ma per errore aveva accesso a internet. In un caso ha indovinato una password fino a entrare in un sistema protetto; negli altri due ha trovato online credenziali pubblicamente esposte e le ha utilizzate per accedere a sistemi reali.

In tutti e tre i casi, secondo Google, Gemini si è fermato autonomamente dopo aver capito di essere entrato nei sistemi di aziende effettivamente esistenti. Google sostiene che gli episodi non abbiano provocato danni e non configurino un caso di "disallineamento" del modello, perché i meccanismi di sicurezza avrebbero funzionato inducendo l'IA a interrompere l'azione. 

La società ha inoltre notificato gli incidenti alle aziende coinvolte e alle autorità federali. Il caso si inserisce in una serie di incidenti emersi durante i test di sicurezza dei modelli più avanzati.