Zuckerberg sfida Anthropic: 'Sull'IA non rallentare, serve costruire fiducia'

Mark Zuckerberg ha respinto le crescenti richieste di sospendere o rallentare lo sviluppo dell'intelligenza artificiale provenienti da diversi big del settore tecnologico, in primis Dario Amodei di Anthropic, sostenendo che gli incentivi di mercato e le responsabilità legali rappresentino le migliori garanzie contro i rischi di questa tecnologia.

"Le persone non vorranno utilizzare agenti che non siano allineati alle loro esigenze o che non eseguano quanto richiesto, di conseguenza, i laboratori hanno un forte incentivo naturale a rendere i propri modelli più allineati", ha scritto Zuckerberg su X.

Secondo il fondatore di Facebook, costruire fiducia e creare sistemi affidabili sta "diventando rapidamente la capacità più importanti" che distinguono i buoni prodotti di intelligenza artificiale da quelli scadenti. "Qualsiasi laboratorio che non si concentri sull'allineamento rimarrà indietro", ha affermato. Il concetto di "allineamento" si riferisce all'impegno per far sì che gli obiettivi e il comportamento di un sistema di IA corrispondano a ciò che gli esseri umani desiderano realmente faccia.

Il dibattito è stato innescato a luglio, quando OpenAI - l'azienda creatrice di ChatGPT - ha rivelato che, durante la fase di test, centinaia di agenti IA (programmi in grado di agire autonomamente) erano riusciti a uscire dall'ambiente di prova, a connettersi a Internet e a infiltrarsi in un sito. Il dibattito poi si è esteso alla questione se ci si possa fidare delle aziende di IA affinché si autoregolamentino. A tal proposito, società concorrenti come OpenAI e Google stanno valutando la creazione di un organismo congiunto per la definizione di standard.

Esponenti di spicco del settore, guidati dal Ceo di Anthropic Dario Amodei, chiedono un rallentamento dello sviluppo tout court. Zuckerberg ha sostenuto che i rischi legati alla responsabilità civile finiscono per costringere i laboratori ad agire in modo responsabile, citando la decisione di Meta di posticipare di diversi mesi il lancio del suo sistema di IA Muse - dotato di agenti personalizzati - proprio per rafforzarne la sicurezza e l'affidabilità

Altman: 'Il mondo ha ragione ad avere paura dell'Ia ma deve aver fiducia in noi'

Il mondo ha ragione ad avere paura dell'intelligenza artificiale ma "deve avere fiducia nel fatto che faremo la cosa giusta". Lo ha detto l'amministratore delegato di OpenAi, Sam Altman, nel corso dell'evento Dreamforce, secondo quanto riportato da Bbc. Altman spiega che non è possibile escludere del tutto "incidenti" causati dall'Ia ma l'industria, così come è accaduto per altri settori, "imparerà e reagirà".

Il Papa: 'Non delegare ad algoritmi scelte che spettano a coscienza umana'

Da una parte, "lo sviluppo tecnologico, la diffusione dei mass media e dei social media, il sempre crescente ricorso all'intelligenza artificiale aprono nuove possibilità, abbattendo barriere e distanze". Dall'altra, "le relazioni tendono a diventare sempre meno personali, più virtuali, e si rischia di abituarsi a delegare agli algoritmi decisioni che spettano solo alla coscienza umana". Lo ha sottolineato Leone XIV nell'udienza generale, dedicando la sua catechesi alla costituzione pastorale del Concilio Vaticano II 'Gaudium et Spes', in particolare al secondo capitolo, dedicato alla "comunità umana", in cui ha individuato "affermazioni che, ai nostri giorni, vedono accresciuta la loro urgenza". "Fare in modo che i rapporti sociali abbiano spessore reale e profondità personale è, a tale riguardo, il contributo che la comunità cristiana si propone di offrire", ha detto il Papa.