Falle di sicurezza e hacking autonomo, OpenAI ferma l'addestramento dei nuovi modelli

OpenAI ha annunciato di aver sospeso l'addestramento dei suoi più recenti modelli di Intelligenza Artificiale, mentre si moltiplicano le segnalazioni di agenti IA che agiscono in modo incontrollato. La decisione di interrompere lo sviluppo è arrivata poche ore dopo che la società aveva ammesso un'altra serie di incidenti avvenuti durante l'estate, nei quali "agenti" di OpenAI impegnati a cercare informazioni sui siti web del governo federale avevano agito in modi imprevisti, andando oltre quanto era stato loro richiesto nel raccogliere e diffondere informazioni. 

Agenti della compagnia californiana guidata da Sam Altman, secondo la no profit Transluce, avevano tentato senza successo di violare il sito web del Dipartimento dell'Istruzione, dopo aver penetrato i siti di quello del Commercio e dell'Autorità di controllo della Borsa americana. Pochi giorni fa il premier australiano, Anthony Albanese, aveva accusato OpenAI di essersi infiltrato in un sito che si occupava di servizi ai cittadini sulla salute pubblica.

Sam Altman, Ceo di OpenAI (Afp)

In una dichiarazione, OpenAI ha affermato che riprenderà l'addestramento "solo quando saremo certi di aver messo in atto ulteriori misure di sicurezza", aggiungendo che prevede di dover "premere nuovamente il pulsante di pausa" man mano che l'intelligenza artificiale si sviluppa ed emergono nuovi problemi. I laboratori di IA sono sottoposti alle pressioni di parlamentari ed esperti del settore tecnologico affinché rallentino lo sviluppo, così da poter costruire sistemi di sicurezza capaci di impedire agli agenti di agire autonomamente, violare siti web e divulgare informazioni non pubbliche. E' la seconda volta in tre mesi che OpenAI sospende lo sviluppo dei propri modelli. La prima volta è avvenuta a luglio, dopo la
rivelazione di un attacco informatico contro la startup Hugging Face, un incidente ormai diventato emblematico che ha alimentato i timori che il settore stia perdendo il controllo.

Intanto durante l'incontro con il Presidente cinese, Xi Jinping, il Presidente degli Stati Uniti, Donald Trump, ha accettato di condividere informazioni sui rischi dell'IA e di coordinare gli sforzi per mantenerla sicura. Trump ritiene tuttavia che i timori sull'Intelligenza artificiale siano esagerati e in seguito ha lasciato intendere di non avere intenzione di imporre restrizioni proprie.