Nvidia lancia un nuovo sistema per controllare le intelligenze artificiali

In risposta agli ultimi incidenti che hanno visto coinvolte le intelligenze artificiali ribelli, Nvidia ha presentato la Open Agent Safety Platform, un sistema di sicurezza creato per evitare che le IA agiscano fuori dal controllo umano. La nuova piattaforma si basa su due strumenti principali. Il primo si chiama OpenShell, un programma che definisce regole rigide per l'intelligenza artificiale.

Questo software verifica che il sistema abbia solo i permessi essenziali per svolgere il proprio compito, impedendogli di accedere ad altre funzioni. Essendo aperto, può essere utilizzato anche su computer della concorrenza, come quelli di Intel e Arm. Il secondo strumento è Sentry, un sistema di controllo inserito direttamente all'interno dei chip, ovvero dell'hardware necessario a far girare i programmi di IA. Sentry monitora le azioni dell'intelligenza artificiale e se nota un comportamento sospetto o un tentativo di superare i limiti imposti, interviene in frazioni di secondo per bloccare e isolare il programma in automatico. I dirigenti di Nvidia hanno spiegato che queste tecnologie avrebbero potuto fermare i recenti incidenti di sicurezza riportati da OpenAI e Anthropic.

Oltre cento grandi aziende, tra cui Microsoft e JpMorgan Chase, stanno già utilizzando la soluzione. Per l'amministratore delegato di Nvidia, Jensen Huang, i rischi legati all'intelligenza artificiale si possono affrontare sviluppando software più sicuri, senza la necessità di frenare il progresso tecnologico dell'intero settore. Durante la conferenza annuale di Salesforce, tenutasi all'inizio di questo mese, Huang ha descritto la sicurezza dell'IA, compreso il pericolo di agenti non autorizzati, come un problema ingegneristico che gli sviluppatori di software possono affrontare.