Ia, cofondatore di Anthropic: "Abbiamo poco tempo prima che sfugga al controllo"

Jack Clark, cofondatore di Anthropic, chiede regole più stringenti sull’Intelligenza artificiale prima che diventi troppo difficile da controllare. Alla Bbc ha parlato anche della possibilità di rendere obbligatorio un “kill switch” verificabile da terze parti

ascolta articolo

Sceglici su:

Jack Clark, cofondatore di Anthropic, ritiene che i governi abbiano poco tempo per introdurre regole sull’Intelligenza artificiale prima che diventi troppo potente e difficile da controllare. In un’intervista alla Bbc, ha invitato i responsabili politici ad agire finché solo un piccolo numero di aziende dispone delle risorse necessarie per sviluppare i sistemi più avanzati. Le sue dichiarazioni arrivano nel pieno del dibattito sull’Ia, dopo gli appelli dei colossi Usa a rallentarne lo sviluppo e la dura risposta di Donald Trump e di Pechino. 

Clark: “Il momento di agire è quando ci sono pochi operatori”

Secondo il cofondatore di Anthropic, intervenire ora renderebbe più semplice definire regole in grado di ridurre i rischi. “Il momento giusto per agire è quando ci sono pochi operatori nel settore. È allora che si può instaurare un quadro normativo capace di prevenire incidenti e di evitare che la tecnologia sfugga al controllo”, ha spiegato alla Bbc. Nel corso dell’intervista, Clark ha affrontato anche il tema del “kill switch”, cioè un sistema in grado di spegnere completamente un software di intelligenza artificiale. “La maggior parte dei laboratori dispone di diversi sistemi per staccare la spina” dell’Ia, ha detto, precisando che anche Anthropic ne dispone. Secondo Clark, un “interruttore di emergenza” verificabile da terze parti “potrebbe dover diventare obbligatorio per le aziende”. “Penso che questo sia il genere di cose che la società vorrà sapere e su cui, alla fine, potrebbe voler introdurre delle regole”, ha aggiunto. 

“Stiamo giocando d’azzardo correndo rischi enormi”

La scorsa settimana è diventato virale il post del ricercatore di Intelligenza artificiale Jacob Coxon che ha lasciato Anthropic per il timore che l’Ia possa causare “l’estinzione dell’umanità”. Interrogato sulla probabilità che uno scenario del genere possa verificarsi, Clark ha risposto: “Non credo che queste stime siano particolarmente utili”. Ha però aggiunto che lasciare che l’Ia continui a operare come un “settore totalmente privo di regolamentazione” sarebbe una pessima idea. “Stiamo giocando d’azzardo correndo rischi enormi”, ha affermato. “Il punto fondamentale è che dobbiamo cambiare la rotta di questo settore”, ha concluso. 

Leggi anche

Intelligenza artificiale, chi è davanti nella corsa tra Usa e Cina?