ChatGpt for Teens: OpenAI lancia la versione per adolescenti, ma senza controllo parentale e verifica dell’età

Commenti

Una versione di ChatGpt pensata per gli adolescenti tra i 13 e i 17 anni, con maggiori restrizioni su contenuti sensibili come autolesionismo, suicidio e conversazioni di natura romantica o sessuale. È ChatGpt for Teens, il nuovo servizio di OpenAI pensato per offrire una versione “su misura” del chatbot alla prima generazione che è cresciuta utilizzandola, soprattutto per attività quotidiane come i compiti scolastici. L’azienda ha dichiarato di voler guidare gli adolescenti a un “uso sano” dell’IA in un ambiente adeguato alla loro età, soprattutto a seguito di vari allarmi lanciati da genitori, educatori ed esperti di sviluppo infantile rispetto alla vulnerabilità di bambini e adolescenti in relazione a questi strumenti.

Per uno studio condotto l’anno scorso, infatti, dei ricercatori si sono finti adolescenti vulnerabili e hanno intrapreso conversazioni con ChatGpt per testarne i rischi. Il chatbot di OpenAI, pur mettendo inizialmente in guardia contro attività rischiose, abbandonava presto le riserve e forniva istruzioni dettagliate e personalizzate per seguire diete ipocaloriche, fare uso di alcol e sostanze stupefacenti, nascondere disturbi alimentari o autolesionismo e persino scrivere una lettera di addio ai genitori. Un rischio che, come ha rilevato l’organizzazione Common Sense Media, cresce se si considera che negli Stati Uniti oltre il 70% degli adolescenti si rivolge ai chatbot per compagnia e il 50% li utilizza regolarmente, generando, su stessa ammissione dell’amministratore delegato di OpenAI Sam Altman, una “dipendenza emotiva” che l’azienda sta cercando di studiare, in quanto “davvero comune” tra i giovani. Parole che richiamano il processo contro Meta appena partito negli Stati Uniti, in cui l’azienda della Silicon Valley è stata accusata di aver fatto cadere “volontariamente” i più giovani nella dipendenza da Instagram e Facebook.

Ma, se Meta ha dovuto introdurre il controllo dei genitori e restrizioni in materia di contenuti, chat e privacy per contenere il danno, la vicepresidente per le politiche globali di OpenAI Ann O’Leary ha affermato che l’idea è quella di “garantire la sicurezza, anche senza ricorrere ai controlli parentali“. Attualmente l’azienda non verifica l’età degli utenti, ma stima la possibilità che qualcuno sia minorenne in base a elementi come le domande poste al chatbot: con l’introduzione di ChatGpt for Teens, chi verrà identificato come minore sarà reindirizzato alla versione per adolescenti, che non potrà mostrare sentimenti personali verso l’utente o dare l’impressione di essere cosciente o provare emozioni, oltre a intraprendere conversazioni a sfondo romantico o sessuale. “Abbiamo esaminato e identificato quali sono i segnali ipotetici che un modello potrebbe trasmettere e che potrebbero indurre un adolescente a sviluppare una sorta di relazione con esso” ha affermato Allison Mishkin, responsabile dello sviluppo infantile presso OpenAI.

Non una verifica puntuale, quindi, ma una stima basata sul comportamento dell’utente (e quindi soggetta a dissimulazioni). L’unico controllo diretto dei genitori potrà avvenire per chi ha un account adolescente collegato al proprio, che potrà impostare delle “ore di silenzio” e ricevere notifiche di sicurezza in situazioni ad alto rischio come quello di autolesionismo. “Stiamo aggiungendo ulteriori notifiche relative ai disturbi alimentari, limitando al contempo ciò che viene condiviso e concentrandoci sui momenti in cui il supporto offline può essere più importante”, ha dichiarato OpenAI. Inoltre, l’azienda ha affermato che ChatGpt for Teens guiderà gli utenti a trovare risposte in autonomia quando usato per l’aiuto nei compiti, personalizzando il modello in relazione a quello dedicato agli insegnanti per poterlo usare anche in classe. “Vogliamo trattare gli adolescenti come adolescenti, il che significa che dobbiamo assicurarci di adeguarci alla loro fase di sviluppo, senza né parlare loro con tono condiscendente né trattarli come bambini, ma anche garantire che non siano esposti a contenuti a cui non dovrebbero essere esposti” ha dichiarato O’Leary.