OpenAI, agente autonomo si è infiltrato in un sito del governo australiano

E' successo lo scorso mese di giugno ma, in base a quanto ricostruito, OpenAI ha informato il governo australiano di quanto accaduto solamente a settembre, inviando un'e-mail. L'agente autonomo ha potuto accedere a file sia pubblici sia non pubblici del servizio di statistiche sanitarie locali

ascolta articolo

Sceglici su:

Un agente autonomo di OpenAI si è infiltrato all'interno di un sito web governativo australiano lo scorso mese di giugno, potendo così accedere a file sia pubblici sia non pubblici del servizio di statistiche sanitarie. "Oggi ho parlato con l'amministratore delegato di OpenAI, Sam Altman, per esprimere la viva preoccupazione dell'Australia riguardo a questo incidente", ha sottolineato, preoccupato, il primo ministro dell'Australia, Anthony Albanese a margine dell'assemblea dell'Onu. "Ho inoltre espresso il mio disappunto per il fatto che l'azienda abbia impiegato fin troppo tempo a informare il governo di quanto accaduto", ha poi aggiunto. 

Il ritardo nella segnalazione

In base a quanto ricostruito, OpenAI ha informato, infatti, il governo australiano di quanto accaduto solamente a settembre, inviando un'e-mail che descriveva l'incidente ad un indirizzo di posta elettronica generico destinato al grande pubblico, controllato una sola volta al giorno. "È stato necessario attendere il 10 settembre per avere una qualsiasi notifica, e tale notifica ha assunto la forma di un'e-mail inviata semplicemente all'indirizzo di posta elettronica pubblico", ha confermato Albanese.

L'ammissione di OpenAI

OpenAI ha ammesso che i suoi agenti hanno preso di mira diversi siti governativi australiani, accorgendosene però quando era ormai il mese di agosto. "Abbiamo individuato attività che hanno coinvolto diversi siti web e servizi del governo australiano, nei quali i nostri modelli tentavano di cercare risposte", ha fatto sapere il gruppo in una nota trasmessa alle agenzie di stampa. "Nel corso di questo processo, i nostri modelli hanno intrapreso azioni che non avevamo previsto", ha aggiunto l'azienda. Secondo quanto trapelato, il modello di OpenAI coinvolto nell'hackeraggio stava cercando dati sulla spesa sanitaria del governo australiano, nell'ambito di un'attività mirata a valutare le prestazioni dello strumento.

Approfondimento

OpenAI: “Sei nuovi casi di comportamento preoccupante dei modelli Ia”