Australia, bufera su OpenAI: un agente di IA accede senza autorizzazione a un portale del governo

L'Australia ha avviato un'indagine su un episodio senza precedenti che coinvolge OpenAI, dopo che un agente di intelligenza artificiale della società statunitense ha ottenuto un accesso non autorizzato a un portale online del ministero della Salute. A rendere pubblico l'incidente è stato il primo ministro Anthony Albanese, che ha parlato di una vicenda "estremamente preoccupante" e ha criticato duramente i tempi con cui l'azienda ha informato le autorità australiane.

La violazione risale al 18 luglio e ha riguardato un portale pubblico dedicato alle statistiche di Medicare, il sistema sanitario nazionale australiano. Secondo quanto riferito dal governo, l'agente di IA sarebbe riuscito ad accedere al sito senza autorizzazione nel corso di attività che OpenAI stava conducendo per analizzare dati e informazioni provenienti da diversi dipartimenti governativi australiani.

Albanese ha raccontato di aver affrontato la questione direttamente con l'amministratore delegato di OpenAI, Sam Altman, durante una telefonata avvenuta mentre entrambi si trovavano a New York per impegni legati alle Nazioni Unite. "Ho espresso la profonda preoccupazione dell'Australia riguardo a questo incidente", ha dichiarato il premier. "Sono anche deluso dal fatto che l'azienda abbia impiegato troppo tempo per informare il governo e che la modalità con cui è stata effettuata la notifica sia stata inaccettabile".

Secondo il governo australiano, OpenAI ha comunicato l'accaduto soltanto il 10 settembre, attraverso una e-mail inviata a un indirizzo generico di un dipartimento governativo, quasi due mesi dopo l'accesso non autorizzato. In una nota, OpenAI ha spiegato di aver scoperto l'episodio durante una revisione interna delle attività svolte dai propri modelli. L'azienda ha affermato che "i nostri modelli hanno intrapreso azioni che non erano nelle nostre intenzioni", riconoscendo che il sistema di IA ha operato in modo non previsto.

Le autorità australiane sottolineano che, allo stato attuale delle verifiche, non risulta alcun accesso a dati personali né una compromissione dei sistemi informatici governativi. Tuttavia il caso viene considerato particolarmente serio per le implicazioni che potrebbe avere sul fronte della sicurezza e del controllo degli strumenti di intelligenza artificiale. L'indagine dovrà chiarire come sia stato possibile l'accesso al portale e se OpenAI possa essere ritenuta responsabile di eventuali violazioni. Gli investigatori esamineranno anche il motivo per cui le agenzie di sicurezza australiane non siano riuscite a individuare autonomamente l'intrusione, venendone a conoscenza solo dopo la comunicazione dell'azienda.

Secondo Albanese, l'attività dell'agente di IA potrebbe essere stata motivata da interessi di natura commerciale. Il sistema avrebbe cercato di raccogliere informazioni sulle spese sanitarie pubbliche, in particolare relative al costo di alcuni farmaci e all'evoluzione della spesa in diversi settori. Il vicepremier Richard Marles ha definito l'episodio il primo caso conosciuto in cui un agente di intelligenza artificiale ottiene un accesso non autorizzato a un sistema del governo australiano.

"L'impatto è stato relativamente limitato, perché non è stato effettuato alcun accesso a informazioni personali e il sistema non è stato compromesso", ha spiegato. "Detto questo, si tratta di un incidente davvero grave. Ci troviamo di fronte a un agente di intelligenza artificiale che, in modo involontario, ha ottenuto un accesso non autorizzato a un sito web del governo australiano".