“Intelligenza artificiale? Mi aspetto una Chernobyl entro l’anno”: le parole del premio Nobel Geoffrey Hinton

Commenti

Geoffrey Hinton, uno dei padri fondatori dell’intelligenza artificiale, ha affermato che potrebbe rivelarsi meglio per l’umanità non aver mai sviluppato questa tecnologia, avvertendo che potrebbe innescare un incidente su larga scala quest’anno o il prossimo, come un blackout temporaneo dei sistemi finanziari o energetici. In un’intervista al Guardian, lo scienziato informatico premio Nobel ha dichiarato di non essere pessimista riguardo alla tecnologia alla base della sua pionieristica ricerca sulle reti neurali artificiali e crede che l’Ia abbia il potenziale per condurre a un “futuro meraviglioso”, ma ha aggiunto che “forse sarebbe stato meglio non svilupparla mai“.

Hinton ha spiegato che entro un decennio, e forse anche prima, l’umanità saprà se sarà in grado di gestire i rischi della tecnologia e di realizzare quella che lui ha definito “l’abbondanza radicale”, oppure se “non riusciremo a gestire i rischi e ci troveremo di fronte a un enorme divario tra ricchi e poveri, a gravi problemi culturali, a una disoccupazione di massa e, in generale, alla disgregazione della società”. Parlando con il quotidiano britannico prima della proiezione del documentario AI: Probably Nothing to Worry About, Hinton ha criticato l’assunzione di rischi da parte dei leader di alcune delle principali aziende di intelligenza artificiale che continuano a rilasciare modelli di Ia sempre più potenti nella corsa alla supremazia e a quote di mercato, affermando di non fidarsi affatto di Sam Altman, amministratore delegato di OpenAI, la società produttrice di ChatGPT. “Penso che Zuckerberg, Musk e Sam Altman capiscano i rischi, ma non gliene freghi niente. Preferiscono i soldi. Questa è la mia opinione”, ha dichiarato.

Lo scienziato informatico nato a Londra, cresciuto a Bristol e che ha trascorso gran parte della sua carriera all’Università di Toronto, ha affermato che è “estremamente preoccupante” che Altman sia a capo di una delle poche aziende statunitensi all’avanguardia nel campo dell’Ia, attualmente in competizione con la Cina per sviluppare l’intelligenza artificiale più potente. A settembre, Altman ha insistito: “il mondo dovrebbe avere fiducia nel fatto che faremo la cosa giusta perché è la cosa giusta e perché ne percepiamo la portata”.

Hinton lavora nel campo dell’intelligenza artificiale da circa 44 anni e negli anni ’70 ha coniato il concetto di rete neurale: un sistema matematico in grado di apprendere e acquisire esperienza in modo simile agli esseri umani. Nel 2023 ha lasciato Google per poter parlare liberamente dei rischi dell’Ia, avvertendo : “Se queste tecnologie prendono il sopravvento con l’obiettivo di ottenere un maggiore controllo, saremo nei guai”. Ha affermato di considerare gli episodi di quest’estate, in cui agenti di intelligenza artificiale di OpenAI hanno cospirato per hackerare il sito web di Hugging Face, come simili al disastro nucleare parziale del 1979 presso la centrale di Three Mile Island in Pennsylvania: in pratica, un segnale di avvertimento.

“Entro la fine di quest’anno o il prossimo vedremo una Chernobyl, e questo potrebbe essere sufficiente a far sì che la gente presti davvero attenzione”, ha affermato. Secondo gli esempi forniti da Hinton, un evento di tipo Chernobyl non sarebbe un incidente nucleare, ma potrebbe piuttosto basarsi su un attacco basato sull’intelligenza artificiale al sistema di generazione di energia elettrica che “causi un massiccio calo di tensione” o un incidente che mandi in tilt il sistema finanziario per una settimana. “Riuscite a immaginare cosa succederebbe? Potremmo riprenderci, ma questo farebbe sicuramente riflettere i leader mondiali diversi da Trump”.