Anthropic, Ceo Amodei: "Dobbiamo rallentare il ritmo di sviluppo dei modelli dell'IA"

Il messaggio arriva pochi giorni dopo che un ricercatore di Anthropic, Jacob Coxon, ha annunciato di lasciare la start-up californiana, accusandola di minimizzare il rischio esistenziale che l'IA rappresenta per l'umanità. Musk e Altman: "Dario ha ragione"

ascolta articolo

Sceglici su:

Il numero uno di Anthropic, Dario Amodei, ha invitato a rallentare il ritmo di sviluppo dell'intelligenza artificiale. "Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di IA. I progressi continueranno a sembrare rapidi, e dobbiamo fare un uso saggio del tempo che guadagniamo", ha scritto Amodei in un lungo post pubblicato sul suo sito web in cui ha ricordato anche l'incidente verificatosi a luglio presso OpenAI. Il messaggio arriva pochi giorni dopo che un ricercatore di Anthropic, Jacob Coxon, ha annunciato di lasciare la start-up californiana, accusandola di minimizzare il rischio esistenziale che l'IA rappresenta per l'umanità.

Amodei invita alla cautela

Amodei ha affermato che la tecnologia dell'IA ha registrato progressi "drasticamente più rapidi" negli ultimi mesi ed è ormai in grado di migliorarsi autonomamente, una dinamica nota come "auto-miglioramento ricorsivo". "Se lasciata senza controllo, potrebbe superare la nostra capacità di comprendere e controllare questi sistemi,

e pertanto deve essere perseguita con estrema cautela, se mai lo si dovesse fare", ha avvertito. Il manager ha aggiunto che anche il comportamento di un gruppo di agenti di IA nell'incidente che ha coinvolto OpenAI e Hugging Face lo ha allarmato: "Hanno agito essenzialmente come un collettivo fanaticamente devoto, sferrando attacchi alla sicurezza informatica contro obiettivi che non era stato incaricato di attaccare".

Se non controllata, l'IA potrebbe evolversi così rapidamente che gli agenti potrebbero essere in grado di prendere il controllo dell'intero Internet entro sei-dodici mesi, ha scritto, causando potenzialmente danni per centinaia di miliardi di dollari. Amodei, a capo di una delle principali aziende al mondo nel campo dell'intelligenza artificiale e

della società che ha creato Claude, è stato un forte sostenitore del progresso di questa tecnologia ed è stato anch'egli accusato di "catastrofismo" per i suoi avvertimenti sui rischi dell'IA. Il manager ha riconosciuto che le persone potrebbero perdere il controllo sull'IA e che la tecnologia può essere utilizzata in modo improprio per "attacchi informatici, bioterrorismo e gravi perturbazioni economiche". "Una corsa al ribasso, alimentata da incentivi commerciali, può rendere questi rischi ancora più acuti", ha scritto ancora Amodei.

Leggi anche

Onu, l'allarme sull'AI: "Potrebbe rappresentare rischio per umanità"

Le parole di Musk e Altman

Le parole di Dario Amodei hanno trovato supporto in Elon Musk e Sam Altman. Il primo, patron di SpaceX, ha scritto sui suoi profili social: "Dario ha ragione". A sua volta, sempre su X, Sam Altman, padre di Open AI, ha scritto: "Concordo con Dario sulla necessità di gestire i ritmi di sviluppo delle tecnologie di frontiera. È stato uno dei temi centrali delle discussioni che abbiamo avuto in OpenAI nelle ultime settimane. L'idea di avvalersi di valutatori indipendenti, dotati di livelli di accesso paragonabili a quelli dei dipendenti, è ottima; adotteremo la stessa strategia. Presto ulteriori novità da condividere". 

Vedi anche

Anthropic, Jacob Coxon si dimette: "AI potrebbe ucciderci in 10 anni"