Abbiamo imparato a moderare i social. Con l’intelligenza artificiale sarà più difficile

Commenti

di Fabrizio Marozzo*

YouTube è ormai un luogo familiare. Ci guardiamo un evento sportivo, un documentario, un tutorial o lasciamo che i nostri figli vedano un cartone animato. Eppure dietro questa normalità esiste un problema enorme: chiunque può pubblicare un contenuto. E qualcuno, inevitabilmente, prova a caricare contenuti inappropriati, sessualmente espliciti, violenti, fino ad arrivare a materiale apertamente illegale. Il problema vale per tutti i social network: solo su YouTube vengono caricate oltre 500 ore di video ogni minuto; su TikTok, ad esempio, vengono pubblicati oltre 100 milioni di contenuti al giorno.

Anni fa un mio amico lavorava nella moderazione dei contenuti online. Mi raccontava che tra il materiale da controllare arrivavano immagini e video estremamente violenti, degradanti e, in alcuni casi, difficili persino da descrivere. Contenuti che, fortunatamente, un normale utente non vedrà quasi mai, proprio perché qualcuno — o sempre più spesso qualche algoritmo — li intercetta prima. Oggi gran parte di questo lavoro è affidata ai sistemi automatici, che analizzano enormi quantità di contenuti e bloccano o segnalano quelli sospetti. I moderatori umani intervengono soprattutto nei casi più complessi o controversi, mentre le segnalazioni degli utenti aiutano a individuare ciò che può essere sfuggito ai controlli.

Ora trasferiamo lo stesso problema all’intelligenza artificiale generativa.

ChatGPT e gli altri modelli, se usati bene, sono strumenti straordinari. Possono aumentare le nostre capacità, aiutarci a valorizzare la nostra creatività, velocizzare attività complesse e renderci più efficaci nel lavoro e nello studio. Possono riassumere documenti, tradurre, scrivere codice, generare immagini e analizzare grandi quantità di dati. In medicina e nella ricerca scientifica queste capacità diventano ancora più interessanti, perché permettono di esplorare quantità di informazioni difficilmente gestibili da un singolo gruppo di ricerca. A settembre Anthropic ha raccontato come centinaia di agenti Claude abbiano analizzato database genetici, contribuendo all’individuazione di un nuovo sistema enzimatico, che verrà ora studiato per comprenderne meglio le potenzialità.

Ma quando uno strumento così potente viene messo nelle mani di milioni di persone, è inevitabile che qualcuno provi a utilizzarlo anche per scopi malevoli.
L’ultimo rapporto di Anthropic sugli abusi di Claude offre esempi impressionanti. Un operatore ha usato il modello per contribuire allo sviluppo di una piattaforma di sorveglianza destinata all’intelligence del Mali, progettata per lavorare sui dati di circa 25 milioni di SIM. Anthropic ha individuato l’attività e bloccato gli account coinvolti. Ma da quel momento restano diverse incognite: non sappiamo se gli sviluppatori abbiano cambiato sistema di AI, se il progetto sia proseguito con altri strumenti o se il software realizzato sia oggi effettivamente operativo.

In un altro caso, una cellula operante nel nord dello Yemen ha utilizzato Claude nello sviluppo del software di guida di un razzo. Dopo un test fallito, gli sviluppatori sono tornati al modello per cercare di capire che cosa non avesse funzionato. In operazioni riconducibili allo spionaggio russo, invece, l’AI è stata utilizzata per automatizzare diverse fasi di attacchi informatici, compreso lo sviluppo e l’adattamento di malware.

Ma forse il caso più interessante è anche il meno spettacolare. Alcuni utilizzatori dividevano un progetto pericoloso in tante richieste apparentemente innocue. Una poteva servire a scrivere codice, un’altra a gestire credenziali, un’altra a risolvere un problema. Singolarmente sembravano lecite. Solo guardandole nel loro insieme emergeva la finalità malevola del progetto.

Ed è qui che il paragone con YouTube mostra il suo limite. Su YouTube dobbiamo soprattutto controllare un contenuto: un video può essere analizzato, segnalato e rimosso. Con l’intelligenza artificiale generativa bisogna capire anche l’intenzione dietro una sequenza di istruzioni. Una domanda può essere innocua. Anche quella successiva. Ma che cosa stanno costruendo, insieme, cento richieste apparentemente innocue?

C’è poi un problema economico. In uno dei casi più gravi descritti da Anthropic sono stati sottratti oltre un terabyte di dati, tra cui centinaia di migliaia di identificativi personali e milioni di record relativi a carte di pagamento. Ma il punto forse più importante è un altro: l’AI può abbassare drasticamente il costo di un attacco. Ricognizione, scrittura di codice e analisi delle vulnerabilità possono essere affidate a sistemi automatici, riducendo il lavoro e le competenze necessarie. Così anche bersagli che prima non valeva la pena colpire possono diventare convenienti.

La soluzione sembrerebbe semplice: controllare ogni domanda, ogni risposta e magari l’intera storia della conversazione. Ma questi strumenti hanno successo anche perché rispondono quasi immediatamente. Ogni controllo aggiuntivo deve quindi convivere con milioni di utenti che si aspettano una risposta in pochi secondi. Un sistema troppo permissivo può diventare pericoloso; uno eccessivamente prudente rischia di diventare inutilizzabile. I grandi servizi commerciali hanno forti incentivi economici e reputazionali a mantenere adeguati livelli di sicurezza. Per questo investono in filtri, monitoraggio e strumenti per individuare gli abusi. Quando emergono nuove tecniche per aggirare i controlli possono bloccare gli account coinvolti e rafforzare progressivamente le proprie difese.

Ma esistono anche modelli che possono essere scaricati ed eseguiti localmente. In quel caso il modello gira sul computer dell’utente e non esiste necessariamente un’azienda o un ente che possa osservare ciò che sta accadendo o interrompere l’utilizzo. Molto dipende dal modello scelto, da come è stato costruito e dai limiti che incorpora.

Il punto, quindi, non è soltanto stabilire che cosa un’intelligenza artificiale debba rifiutarsi di fare. Bisogna riuscire a capire che cosa qualcuno sta cercando di ottenere attraverso molte richieste, magari tutte apparentemente innocue, e farlo in tempo reale senza penalizzare milioni di persone che utilizzano questi strumenti in modo legittimo e con finalità positive. Riuscire a controllare sistemi così potenti, senza limitarne le enormi potenzialità, sarà una delle sfide decisive dell’intelligenza artificiale dei prossimi anni.

*professore associato di Ingegneria informatica, Università della Calabria