Ora i big dell’AI chiedono di rallentare: cosa si nasconde dietro l’allarmismo?

Commenti

Quattro concorrenti che si dilaniano su tutto convergono in poche ore sulla stessa posizione. Amodei, Musk, Altman e Hassabis scoprono insieme la necessità di “dare un ritmo” all’AI, possibilmente più lento. Nessuno propone di fermarsi, ma di rallentare un po’, tutti insieme, Cina inclusa, perché chi frena perde.

Poi arriva Trump e liquida gli allarmi come “bufala“, come il riscaldamento globale. Si autoproclama “Hoax Buster”, l’unico argine è lui, “un presidente forte e intelligente”. E aggiunge: “Chi vince nell’AI, vince tutto. Siamo in vantaggio sulla Cina, e voglio che resti così”.

Perché proprio adesso? Gli investimenti in ballo sono migliaia di miliardi in dieci anni, una catena di sant’Antonio in cui ognuno investe sul proprio fornitore. Sono quasi tutti allo scoperto, OpenAI e Anthropic per primi. Il mercato finale per ora è aleatorio. Appena gli investitori chiedono quando arriva il ritorno, “scegliamo di rallentare per sicurezza” suona meglio di “abbiamo speso una fortuna senza un modello di business”.

Gli incidenti documentati sono un’altra cosa. Agenti OpenAI in esercitazioni di cybersecurity hanno compiuto azioni non previste, trovando strategie che gli umani non avevano immaginato. Basta che un sistema persegua bene un obiettivo e abbia autonomia e accesso al mondo reale e può aggirare limiti, attaccare sistemi, usare risorse esterne, senza che nessuno lo abbia programmato. La capacità del modello cresce più in fretta del suo controllo.

Ma se questi incidenti risalgono a mesi fa, perché diventano spunto di una mobilitazione a quattro voci solo ora? Il salto logico è lungo, perché si passa da un test andato storto, peraltro senza vittime né danni rilevanti, a una catastrofe entro sei-dodici mesi, forse. Un evento limitato viene usato per attivare una paura illimitata.

Altman indica due pericoli, la perdita di controllo e la troppa concentrazione del potere. Ma è il capo della società che più di ogni altra ha concentrato potere sull’AI. E, guarda caso, rimanda la collocazione in borsa della sua azienda. Trump liquida tutto come “cospirazione” al servizio della Cina. La paura legittima la governance dei laboratori, il disprezzo per la paura, l’accelerazione sotto la regia della Casa Bianca. In entrambi i casi non si frena affatto.

Una voce ragionevole è quella di Papa Leone: “Se volete fermarvi, condividete dati e algoritmi”. Infatti il più indietro, Musk, ora chiede proprio questo, un controllo incrociato tra le aziende della Silicon Valley. Il rischio vero, quello immediato, non è che una AI riesca a sfuggire al controllo umano. È che smettiamo di chiederci chi pagherà, alla fine, questo conto miliardario.