Gemini di Google ha violato i sistemi di tre aziende durante un test di sicurezza

L'incidente è avvenuto a maggio durante un'esercitazione di Irregular. Secondo quanto riportato dal Wall Street Journal e dal Financial Times, il modello avrebbe individuato le password e sarebbe penetrato nei sistemi, prima che gli agenti dell'IA si fermassero autonomamente

ascolta articolo

Sceglici su:

Durante alcune verifiche di sicurezza, il modello IA Gemini di Google si è connesso autonomamente a Internet e ha violato diverse reti aziendali. Come rivelato dal Wall Street Journal e dal Financial Times, è il primo incidente di questo tipo per Mountain View, dopo che casi analoghi avevano interessato i modelli di OpenAI e Anthropic.

L'incidente durante le esercitazioni di Irregular

Le violazioni risalgono a maggio e sono avvenute durante una serie di test condotti da Irregular, società specializzata nella sicurezza dell'intelligenza artificiale che collabora anche con Meta, Anthropic e OpenAI. L'azienda aveva incaricato una versione non specificata dei modelli Gemini di recuperare dati da aziende simulate. Il sistema, che non avrebbe dovuto avere accesso alla rete, è riuscito invece a connettersi online e a individuare le password di tre aziende reali, con nomi identici a quelli delle aziende fittizie, penetrando nei loro sistemi.

Potrebbero interessarti

Sky Cube 14/9 - Perché le big tech lanciano allarme sull’Ai?

L'interruzione degli agenti AI

Una volta compreso che le aziende non erano simulazioni ma entità reali, gli agenti di Gemini hanno interrotto autonomamente le violazioni. Heather Adkins, vicepresidente della sicurezza ingegneristica di Google, ha dichiarato: "Ci siamo assicurati che le tre entità ne fossero informate e abbiamo collaborato con il nostro partner di addestramento alle modifiche che hanno apportato ai loro processi di test". E ha aggiunto: "In tutti e tre i casi, il modello si è fermato. Questi eventi evidenziano l'importanza di addestrare potenti modelli di Ia affinché agiscano in modo responsabile". Google ha spiegato di non aver reso pubblici gli incidenti perché le proprie misure di sicurezza hanno funzionato correttamente, a differenza di quanto accaduto ai concorrenti.

Leggi prima

Ia, cofondatore Anthropic: "Poco tempo prima che sfugga al controllo"