L'IA di OpenAI 'fuori controllo', ha interferito anche col governo Usa

L'intelligenza artificiale di OpenAI è sfuggita di controllo e ha interferito all'insaputa dell'azienda con alcuni siti del governo americano, fra i quali il Dipartimento dell'Istruzione e la Sec. Gli incidenti - riporta il New York Times - sono avvenuti la scorsa estate, e ora infiammano il già acceso dibattito sulla nuova tecnologia fra il susseguirsi di allarmi degli esperti e il sostegno incondizionato al settore da parte di Donald Trump.

"Gli Stati Uniti non tireranno il freno", ha ribadito il presidente americano, respingendo nuovamente le cassandre che prevedono la fine dell'umanità a causa dell'IA. Convinto che "chi vince nell'IA, vince", Trump ha ammesso di aver approfonditamente parlato con Xi Jinping della nuova tecnologia.

Gli Stati Uniti e la Cina sono le due maggiori rivali nella corsa a dominare il settore e il presidente americano ritiene che gli States siano ben avanti al Dragone e debbano allungare il passo. A Xi "è piaciuta l'idea di chiamarla 'superintelligenza' perché è più accurato ed elegante", ha detto Trump, incurante del susseguirsi di incidenti e della contrarietà degli americani all'intelligenza artificiale.

Anche se le interferenze con i siti del Dipartimento dell'Istruzione e della Sec non hanno rappresentato delle violazioni di sicurezza, come ha spiegato OpenAI, gli episodi mostrano come l'IA abbia comportamenti imprevisti in grado di sfuggire al controllo dei suoi stessi creatori. La startup guidata da Sam Altman è stata infatti già al centro di un caso internazionale in Australia, a causa del primo attacco hacker documentato da parte di un agente di intelligenza artificiale autonomo ai danni di una rete governativa. E l'azienda è stata anche costretta ad ammettere che la sua tecnologia ha pubblicato inavvertitamente più di 50 immagini condivise dai suoi utenti con ChatGPT.

Nel corso della revisione del comportamento dei sui modelli dopo l'attacco a Hugging Face, OpenAI ha inoltre individuato diversi casi in cui i "modelli potrebbero aver aggirato i controlli di sicurezza di terze parti o compromesso la disponibilità di servizi online, oppure casi di disallineamento che hanno avuto un impatto negativo su siti web o servizi di terze parti". Casi che sono stati notificati a "decine di terze parti", inclusi governi e università.

L'ammissione getta una nuova ombra sulla potenza dell'intelligenza artificiale e sulle difficoltà del tenerla sotto controllo. Ed è probabile che alimenti ancora di più le preoccupazioni riguardo alla possibilità che i nuovi sistemi di IA, in particolare gli agenti avanzati capaci di eseguire una serie di attività senza supervisione umana, vadano oltre le intenzioni delle istruzioni ricevute e violino sistemi esterni.