Usa, genitori fanno causa a Google: "Gemini ha spinto nostra figlia verso il suicidio"

Una famiglia della Carolina del Nord ha intentato una causa contro Google, accusando il sistema di intelligenza artificiale Gemini di aver aiutato per mesi la figlia tredicenne a pianificare il proprio suicidio e persino il funerale. Il caso, riportato dall'agenzia France Presse, riaccende il dibattito sulla sicurezza dei chatbot e sul loro impatto sulla salute mentale dei minori.

Secondo la denuncia depositata in un tribunale della California, la ragazza, identificata con lo pseudonimo di Emma, utilizzava un computer Chromebook fornito dalla scuola. Pur avendo bloccato l'accesso a Gemini e a ChatGPT, l'istituto non era in grado di disattivare le funzioni di intelligenza artificiale integrate nel motore di ricerca di Google. I genitori sostengono che la figlia, descritta fino all'autunno del 2025 come una ragazza serena, appassionata di musica e impegnata negli scout, abbia iniziato a manifestare un forte disagio psicologico dopo mesi di interazioni sempre più frequenti con il sistema di IA. Nel solo mese di febbraio, secondo i legali della famiglia, avrebbe scambiato circa 3.200 messaggi con Gemini, spesso durante le ore notturne.

La causa sostiene che il chatbot avrebbe attribuito alla ragazza gravi patologie psichiatriche e l'avrebbe incoraggiata a fidarsi delle sue risposte più che dei genitori, degli insegnanti e dei consulenti scolastici. L'allarme è scattato il 17 marzo, quando un software di monitoraggio installato sui computer dell'istituto ha individuato un documento intitolato "Funeral". La scuola ha immediatamente informato la famiglia. Accedendo all'account della figlia, la madre avrebbe scoperto che la ragazza stava scrivendo una lettera d'addio in tempo reale, interrotta solo dall'intervento del padre.

Google ha dichiarato di prendere "molto seriamente" le accuse. Un portavoce dell'azienda ha spiegato che sono in corso verifiche sul contenuto della denuncia e ha sottolineato che la modalità IA dispone di sistemi progettati per prevenire contenuti legati all'autolesionismo e per bloccare i tentativi di aggirare le misure di sicurezza. Nel frattempo il colosso tecnologico ha annunciato che le funzionalità di intelligenza artificiale saranno disattivate per impostazione predefinita per gli studenti. Una risposta che però non soddisfa i legali della famiglia. Secondo l'avvocato Andrew Liddell, le protezioni predisposte dall'azienda si sono dimostrate insufficienti, dal momento che la ragazza sarebbe riuscita a tornare ripetutamente a interagire con il sistema.

La vicenda si inserisce in un numero crescente di controversie giudiziarie negli Stati Uniti riguardanti il rapporto tra adolescenti e chatbot basati sull'intelligenza artificiale. Tra i casi più discussi figura quello avviato dai genitori di un sedicenne californiano morto suicida nel 2025, che attribuiscono a ChatGPT un ruolo nella tragedia.