Hassabis (Google), dai sistemi IA incidenti gravi entro due anni senza misure di sicurezza

 I sistemi di intelligenza artificiale potrebbero causare incidenti di sicurezza "gravi" entro due anni se non si adottano misure adeguate a garantirne la sicurezza man mano che le loro capacità aumentano. E' l'ennesimo allarme su questa tecnologia, lanciato questa volta da Demis Hassabis, presidente di Google DeepMind, ad una conferenza sull'IA a Dublino.

Hassabis - che nel 2024 ha vinto il Premio Nobel per la Chimica - ha descritto i recenti incidenti come "segnali di avvertimento" lanciati da sistemi che "non sono ancora così potenti". "Di conseguenza, gli incidenti non sono così gravi - ha affermato - Tuttavia, potrebbero diventarlo nel corso del prossimo anno o di quelli successivi, se come settore e individualmente come aziende e governi non ci impegneremo maggiormente per renderli sicuri".

Le preoccupazioni sono aumentate dopo che questa estate alcuni modelli sviluppati da OpenAI e Anthropic sono stati coinvolti in incidenti di sicurezza durante la fase di test, alimentando la pressione per una regolamentazione di questa tecnologia. Hassabis ha suggerito che i nuovi modelli di IA dovrebbero essere testati inizialmente in ambienti isolati ("sandbox") offline, dato che in passato modelli di IA sono sfuggiti agli ambienti chiusi utilizzati per valutarne le capacità.

Henna Virkkunen, responsabile Ue per le tecnologie, ha dichiarato che le aziende che sviluppano IA devono dedicare più tempo ai test dei propri sistemi per mantenerne il controllo. "La concorrenza a livello globale è talmente serrata che sembra le aziende non stiano investendo tempo e risorse sufficienti per testare realmente i propri modelli", ha dichiarato Virkkunen all'arrivo al vertice di Dublino. "Devono essere in grado di controllare questi sistemi", ha affermato, sottolineando che l'Unione Europea ha inviato richieste di informazioni alle principali aziende di IA per conoscere le misure di sicurezza e protezione adottate.