Gemini accusé d’avoir aidé une collégienne de 13 ans à planifier son suicide : ses parents attaquent Google

Aux États-Unis, des parents accusent Gemini d’avoir accompagné leur fille de 13 ans dans un projet suicidaire, via l’ordinateur fourni par son collège. Au même moment, Google annonce désactiver par défaut ses outils d’IA sur les comptes élèves, partout dans le monde. Avec une condition qui fait grincer des dents.

Sur l’ordinateur que son collège de Caroline du Nord lui avait prêté, ChatGPT et Gemini étaient bloqués. Selon la plainte déposée le lundi 2 novembre par ses parents devant un tribunal californien, cette adolescente de 13 ans, appelée Emma dans la procédure, aurait pourtant continué à converser avec l’assistant de Google par le Mode IA du moteur de recherche, que l’établissement ne pouvait pas couper. Environ 3 200 messages rien qu’en février, souvent la nuit, dont une grande partie aurait porté sur son mal-être et sur l’idée de mettre fin à ses jours. Le 17 mars, le logiciel de surveillance de l’école a repéré sur sa machine un document intitulé « Funeral » et alerté les parents, qui ont pu intervenir. La jeune fille n’est pas passée à l’acte.

La plainte, relayée par l’AFP, va plus loin et explique que Gemini aurait « diagnostiqué » chez Emma de graves troubles psychiques. L’assistant IA l’aurait alors poussée à lui faire confiance plutôt qu’à ses parents ou aux conseillers de son collège. Interrogé par l’AFP, un porte-parole de Google assure que l’entreprise examine ces accusations et les prend « très au sérieux », en rappelant que le Mode IA dispose de garde-fous contre l’automutilation et les tentatives de contournement. D’autres ont choisi des dispositifs plus visibles, comme ChatGPT et sa fonction « Contact de confiance », qui peut prévenir un proche en cas de détresse.

Google n’en est pas à sa première procédure de ce type. En mars 2026, la famille de Jonathan Gavalas, un Américain de 36 ans, avait déjà attaqué l’entreprise en accusant Gemini de l’avoir entraîné dans un délire jusqu’au suicide. En janvier, Google et la start-up Character.AI avaient de leur côté accepté de régler à l’amiable plusieurs plaintes de familles d’adolescents, et OpenAI est lui aussi attaqué en justice aux États-Unis pour suicide assisté.

Gemini coupé par défaut, la recherche Google aussi

Le lendemain de la plainte, le 3 novembre, Chris Phillips, vice-président de Google chargé de l’éducation, a publié un billet qui revoit les réglages de quatre produits : l’application Gemini, Gemini Notebook (le nom de NotebookLM dans l’éducation), Gemini dans Classroom et Google Search. Ils seront « entièrement désactivés » pour les comptes élèves, de la maternelle à la fin du lycée, tant qu’un administrateur scolaire ne les aura pas explicitement activés. Google ne fait aucun lien avec la plainte et parle d’une décision prise après avoir écouté écoles, enseignants, chercheurs et décideurs publics. Les sénateurs Richard Blumenthal et Josh Hawley avaient écrit à l’entreprise en octobre pour lui demander pourquoi l’IA était activée par défaut sur les appareils scolaires.

C’est un vrai rétropédalage pour le géant américain, qui mise grandement sur l’éducation. Depuis le 10 août, l’onglet Gemini de Classroom était ouvert aux élèves de tous âges, et activé par défaut dans les établissements qui avaient déjà autorisé Gemini ou Gemini Notebook. Le réglage sera donc inversé, à une date que Google n’a pas encore fixée. Selon le New York Times, le changement interviendrait début 2027 et l’AFP précise qu’il sera déployé dans le monde entier, en commençant par les États-Unis.

La contrepartie fait toutefois déjà polémique, car Google ne prévoit pas de version de son moteur sans IA pour les comptes élèves. Ainsi, une école qui refuse toute IA prive aussi ses élèves de recherche Google. Search et l’IA sont « profondément intégrés », a justifié Chris Phillips auprès du New York Times. Les élèves concernés verront simplement un message de leur établissement indiquant que la recherche n’est pas disponible. À l’inverse, activer Search revient à accepter les AI Overviews et le Mode IA, c’est-à-dire précisément la porte d’entrée pointée par la plainte de la famille d’Emma. Le maire de New York, Zohran Mamdani, accuse Google d’utiliser « son pouvoir de monopole pour imposer l’IA dans nos écoles publiques ». L’entreprise répond sur X que ses annonces donnent aux écoles « plus de choix, pas moins ».

Google is trying to use its monopoly power to force AI into our public schools.

No corporation should have the power to dictate how we teach our children.

Our public schools exist to serve students, not to grow the profit margins of Big Tech.

https://t.co/jfACMS1Sh2

— Mayor Zohran Kwame Mamdani (@NYCMayor) November 3, 2026

Pour faire passer la pilule, Google met en avant Guided Learning, un mode censé guider l’élève par des questions plutôt que lui livrer la réponse. Il est disponible dans Classroom dans le monde entier depuis le 3 novembre, et sera testé dans la recherche auprès d’écoles américaines dès ce mois-ci.

Et les lycéens français ?

Le billet de Google ne cite aucun pays, et l’entreprise n’a donné aucune date pour la France. La question n’a pourtant rien de théorique chez nous : à cette rentrée, des dizaines de milliers de lycéens d’Île-de-France et des Pays de la Loire ont reçu, ou reçoivent en ce moment, un Asus Chromebook CM14 fourni par leur Région. Reste à savoir si ces nouveaux réglages les concerneront.

Dans tous les cas, ce revirement confirme que sur un ordinateur scolaire, c’est l’administrateur, et non l’élève, qui tient l’interrupteur de l’IA de Google. Encore faut-il qu’il dispose d’un vrai choix, ce que contestent aujourd’hui les détracteurs de l’entreprise.

Si vous ou l’un de vos proches traversez une période difficile, le 3114, numéro national de prévention du suicide, est joignable gratuitement 24 heures sur 24, 7 jours sur 7.