L’IA può giudicare meglio degli umani? Bias e rumore spiegati nel libro di Kahneman, Sibony e Sunstein

Commenti

di Giorgio Boratto

A proposito dell‘Intelligenza Artificiale (I.A.), c’è un libro di tre autori Daniel Kahneman, Olivier Sibony e Cass R. Sunstein dal titolo: Rumore. Un difetto del ragionamento umano che auspica e incoraggia l’uso. Dopo una attenta analisi delle decisioni che gli umani prendono da soli o nelle varie categorie professionali e soggette – secondo agli autori – agli errori dovuti al ‘rumore’ ossia frutto di una dispersione casuale, l’I.A. può servire. Nel libro infatti vengono elencati i bias: errori sistematici, che ricorrono in maniera prevedibile in particolari circostanze, e il rumore, appunto, errori dovuti a dispersioni quali le differenze interpersonali, dovute a vari fattori, come la personalità e lo stile cognitivo; le variazioni idiosincratiche del peso attribuito a diversi elementi, gli usi differenti che le persone fanno delle stesse scale di valutazione. Con questo libro possiamo valutare le nostre decisioni; se sono influenzate dal bias o dal rumore.

Il tema che emerge si può sintetizzare in una frase, che costituisce uno dei pilastri di questo libro: dove c’è giudizio, c’è rumore, e più di quanto non si pensi. Primo, giudicare è difficile perché il mondo è pieno di complicazioni e di incertezze; tale complessità, evidente nel sistema giudiziario, si riscontra in quasi tutte le situazioni che richiedono un giudizio professionale: in senso lato, vi rientrano i giudizi di medici, infermieri, avvocati, ingegneri, insegnanti, architetti, produttori cinematografici, addetti alla selezione del personale, editori, dirigenti aziendali di qualsiasi tipo e direttori sportivi. Ogni volta che c’è di mezzo un giudizio, è inevitabile che vi sia disaccordo.

Da qui parte una riflessione per cui ci si chiede: “A questo punto entra in gioco L’Intelligenza Artificiale che annullando sia il Bias che il Rumore fa ottenere risposte e scelte ottimali. L’intelligenza artificiale non ha niente a che fare né con la magia, né con la comprensione: si basa unicamente sulla ricerca di uno schema. Ecco che applicata alle diagnosi cliniche e mediche si potranno avere risultati buoni e se fosse così anche sui valori giudicanti di un processo? Ecco che i giudici potranno essere sorpassati. Una grande mole di dati riferiti alle passante sentenze fornirà senz’altro un giudizio più giusto e regolare nel formulare pene e assoluzioni”.

Un esempio riportato nel libro è quello riguardante la concessione della libertà provvisoria o aggiungo io gli ‘arresti domiciliari’: il modello fu impostato in modo da arrivare a una previsione del rischio di fuga quantificabile in un punteggio numerico, piuttosto che in una decisione a favore o contro la libertà provvisoria. Questo approccio riconosce che la soglia massima di rischio accettabile, cioè il livello di rischio sopra il quale andrebbe negata la libertà provvisoria a un imputato, richiede un giudizio valutativo che un modello non è in grado di esprimere.

Naturalmente tutto si basa su algoritmi che non sono sempre imparziali, obiettivi e non discriminanti, però bisognerebbe ricordare che alcuni algoritmi non solo sono più accurati dei valutatori umani, ma anche più equi. Il processo decisionale meccanico, dell’I.A. ha una superiorità di regole superiori a qualsiasi tipo rispetto al giudizio umano. La semplicità e assenza di ‘rumore’ costituiscono due vantaggi considerevoli. Regole semplici e minimamente sensate in genere portano a risultati migliori. Visti i vantaggi e le evidenze scientifiche in favore, degli algoritmi dell’I.A. ci si chiede perché non vengano usati di più per esprimere giudizi professionali quali medici diagnostici e quelli di giudizio amministrativo e penale; se si escludono importanti eccezioni in particolari ambiti il loro uso è ancora limitato. Ben venga allora il loro uso.

Il blog Sostenitore ospita i post scritti dai lettori che hanno deciso di contribuire alla crescita de ilfattoquotidiano.it, sottoscrivendo l’offerta Sostenitore e diventando così parte attiva della nostra community. Tra i post inviati, Peter Gomez e la redazione selezioneranno e pubblicheranno quelli più interessanti. Questo blog nasce da un’idea dei lettori, continuate a renderlo il vostro spazio. Diventare Sostenitore significa anche metterci la faccia, la firma o l’impegno: aderisci alle nostre campagne, pensate perché tu abbia un ruolo attivo! Se vuoi partecipare, al prezzo di “un cappuccino alla settimana” potrai anche seguire in diretta streaming la riunione di redazione del giovedì – mandandoci in tempo reale suggerimenti, notizie e idee – e