Il problema dell’Ai oggi è che si corre troppo: così si rischia un gigantesco passo indietro

Commenti

di Nicolantonio Agostini

Le recenti dimissioni di David Robinson da OpenAI, ennesimo addio di una figura impegnata nella sicurezza all’interno delle grandi aziende dell’intelligenza artificiale, dovrebbero preoccuparci più dell’ennesima previsione catastrofica sulle macchine pensanti. Robinson, che si occupava della sicurezza dei sistemi più avanzati dell’azienda, ha indicato un problema che va ben oltre qualche protocollo insufficiente o qualche regola da correggere: riguarda la cultura stessa nella quale queste tecnologie vengono sviluppate.

In sostanza: si corre troppo. E soprattutto si continua ad applicare a tecnologie potenzialmente dirompenti la vecchia filosofia della Silicon Valley: sviluppare rapidamente, mettere sul mercato, osservare cosa succede e correggere gli errori. Una versione aggiornata del celebre “move fast and break things”. Solo che quando ciò che rischiamo di “rompere” non è un’applicazione, ma sistemi economici, informativi e sociali, il principio diventa assai meno rassicurante.

Robinson è soltanto l’ultimo di una serie. Negli ultimi anni diversi ricercatori impegnati nella sicurezza dell’IA hanno abbandonato le aziende leader del settore denunciando, con accenti diversi, il conflitto tra prudenza e accelerazione tecnologica. Il problema, allora, potrebbe essere molto più profondo dell’IA stessa: riguarda chi detiene il potere di svilupparla e quali meccanismi selezionano le persone che arrivano al vertice.

La nostra specie ha sviluppato la leadership all’interno di piccoli gruppi, dove reputazione, reciprocità e controllo sociale costituivano potenti argini contro gli abusi. Nelle società moderne questi contrappesi sono molto più deboli. E sappiamo dalla psicologia della leadership che caratteristiche come narcisismo, machiavellismo e psicopatia, la cosiddetta “Dark Triad”, possono facilitare l’ascesa nelle gerarchie perché associate, in misura diversa, a ricerca dello status, sicurezza ostentata, competitività, manipolazione e propensione al rischio.

Questo naturalmente non significa diagnosticare a distanza gli imprenditori della Silicon Valley. Significa interrogarsi sul sistema di selezione. Se un ambiente premia chi rischia di più, cresce più velocemente, conquista mercati, elimina concorrenti e considera ogni vincolo un ostacolo all’innovazione, quali caratteristiche tenderanno a essere premiate?

Il problema diventa enorme quando al vincitore non consegniamo semplicemente un’azienda, ma strumenti capaci di influenzare miliardi di persone.

Per gran parte della storia, concentrare potere nelle mani di ristrette élite maschili ha significato concentrare risorse, prestigio e capacità di decidere della vita altrui. Le società moderne hanno faticosamente costruito istituzioni per limitare questa tendenza: separazione dei poteri, democrazia, regole, controlli.

Con l’IA rischiamo invece un gigantesco passo indietro. Una tecnologia costruita grazie al sapere accumulato dall’intera umanità, addestrata su una quantità sterminata di produzione culturale collettiva e destinata a trasformare il futuro di tutti è controllata da un numero sorprendentemente piccolo di aziende e individui.

È questo il significato politico delle recenti dimissioni di Robinson. Possiamo discutere all’infinito se una futura IA diventerà abbastanza potente da sfuggire al controllo umano. Ma esiste un problema precedente e molto più concreto: gli esseri umani che la controllano oggi. Perché la domanda decisiva non è soltanto quanto diventeranno intelligenti le macchine. È quanto potere siamo disposti a lasciare agli uomini che le possiedono.

Il blog Sostenitore ospita i post scritti dai lettori che hanno deciso di contribuire alla crescita de ilfattoquotidiano.it, sottoscrivendo l’offerta Sostenitore e diventando così parte attiva della nostra community. Tra i post inviati, Peter Gomez e la redazione selezioneranno e pubblicheranno quelli più interessanti. Questo blog nasce da un’idea dei lettori, continuate a renderlo il vostro spazio. Diventare Sostenitore significa anche metterci la faccia, la firma o l’impegno: aderisci alle nostre campagne, pensate perché tu abbia un ruolo attivo! Se vuoi partecipare, al prezzo di “un cappuccino alla settimana” potrai anche seguire in diretta streaming la riunione di redazione del giovedì – mandandoci in tempo reale suggerimenti, notizie e idee – e accedere al Forum riservato dove discutere e interagire con la redazione.