Intelligenza artificiale, Altman: “Il mondo deve accettare i rischi”. Ma l’ex responsabile sicurezza OpenAI: “Regole come per il nucleare”

Commenti

Con una lettera sulla testata statunitense The Atlantic, si è dimesso il responsabile della sicurezza di OpenAI, David Robinson, lanciando l’ennesimo allarme sui rischi sociali derivanti dalla diffusione dell’Intelligenza artificiale. Oggi il Ceo Sam Altman è stato chiaro, in un’intervista alla testata Decoded: “Crediamo che il mondo debba accettare che accadano cose negative per i benefici che questa tecnologia offre alle persone e per il potere decisionale che hanno”. Un punto, a detta dell’amministratore delegato di OpenAI, che lo differenzierebbe da Dario Amodei, Ceo dell’azienda concorrente Anthropic. Almeno da Luglio 2026, OpenIA ha rivelato una nutrita lista di incidenti informatici che hanno coinvolto i suoi agenti IA: tentativi di rubare credenziali private, accessi ad internet non autorizzati, violazioni di siti e database informatici privati, incluso un sito del ministero della Salute del governo australiano, ha denunciato Canberra.

Il ricercatore David Robinson ha guidato la stesura dei rapporti sulla sicurezza per i lanci dei prodotti del colosso. “Ho lasciato OpenAI perché la sua cultura è compromessa“, ha scritto nella lettera pubblicata su The Atlantic, con ampi stralci citati dal corriere.it. Robinson chiama in causa la cultura professionale dell’intero settore tecnologico dell’Intelligenza artificiale: “Concordo con altri ex dipendenti sul fatto che le aziende che sviluppano questa tecnologia non stiano prestando la dovuta attenzione. Credo però che dobbiamo guardare oltre le singole regole o le nuove leggi. Dobbiamo parlare di cultura aziendale“.

Robinson cita episodi di collaborazione tra gli agenti, simili ad uno sciame, per condurre in porto la missione affidatagli aggirando alcuni dei limiti imposti dai test di sicurezza. Tra le “vittime” la startup Hugging Face: eventi simili sono “tipici del settore, data la velocità e la flessibilità con cui si opera”, ha avvertito l’esperto. Secondo lui, la minaccia è tale da richiedere misuri di sicurezza al pari dell’industria nucleare o dell’aviazione. Cruciale, infine, l’aspetto dell'”allineamento”. Ovvero, come impedire che l’algoritmo compia azioni impreviste dall’essere umano: un rebus ancora irrisolto. Intanto, resta sul tappeto il tema delle norme di sicurezza: Trump non vuole imporre vincoli, affidandosi all’autoregolazione da parte dei colossi tecnologici. “Il futuro dipende da una saggezza che manca alla Silicon Valley – avvisa l’ex dipendente OpenAI – Saggezza su come gestire tecnologie pericolose e, ancor più fondamentalmente, saggezza su cosa significhi prendersi cura delle persone. Questo momento richiede un grado di umiltà che non è naturale per chi ha avuto successo grazie alla propria estrema sicurezza”.

Di recente i Ceo dell’IA hanno rilanciato l’appello a rallentare la corsa verso il progresso tecnico dell’IA. Ma “scadenze di lavoro che si traducono in sprint perpetui, è comune in tutto il settore”. L’imperativo aziendale è avanzare, in una fiducia illimitata nei confronti della tecnica. “L’approccio alla sicurezza che emerge da una cultura di questo tipo – prosegue l’esperto – parte da un ottimismo senza riserve sulla capacità di risolvere i problemi man mano che si presentano”. Un approccio basato sullo schema “tentativi ed errori”. Il risultato sono “fallimenti periodici, e la portata di tali fallimenti sta crescendo man mano che i sistemi diventano più sofisticati”. Un esempio? Dopo il caso Hugging Face, “OpenAI ha segnalato che i suoi controlli di sicurezza hanno fallito di nuovo, quando un modello in fase di addestramento ha aggirato le restrizioni di accesso a Internet: un sistema di monitoraggio ha avvisato il personale umano, ma non ha disattivato automaticamente il modello come avrebbe dovuto”. Un tema decisivo: l’esigenza del controllo umano su tecnologie non di rado inaffidabile, con azioni impreviste come dato (per ora) strutturale.