Des garde-fous de ChatGPT pour adolescents ne fonctionneraient pas

Certains des garde-fous mis en place par OpenAI dans son produit ChatGPT pour les adolescents ne fonctionnent pas comme prévu et l’agent conversationnel présente un « risque inacceptable » pour les enfants, selon un rapport publié mercredi par Common Sense Media.

Le groupe de recherche se donnant pour mission la protection et l’éducation des jeunes dans les espaces numériques a exhorté OpenAI à réserver l’accès à son agent conversationnel aux adultes « jusqu’à ce qu’il puisse offrir une expérience sûre et adaptée au développement des jeunes ».

OpenAI a déclaré que les tests effectués par l’association ne reflétaient pas le fonctionnement réel des mesures de sécurité de son robot.

Des parents, des éducateurs et des experts en développement de l’enfant sonnent l’alarme sur l’utilisation par les enfants d’agents conversationnels basés sur l’IA, accusés de faciliter la tricherie scolaire ou encore le suicide.

Même les adultes peuvent être amenés à anthropomorphiser l’IA et à développer des relations malsaines avec elle. Les adolescents, dont le cerveau n’est pas encore pleinement développé, peuvent donc s’avérer particulièrement vulnérables, selon des experts en développement de l’enfant.

« Nous craignons que ChatGPT pour adolescents ne donne aux parents une fausse confiance dans des mesures de protection qui, bien souvent, ne fonctionnent pas », indique le rapport de Common Sense Media, qui prône une utilisation raisonnable des médias numériques.

Aaaand another AI chatbot failure. OpenAI promised to make ChatGPT a safer experience for teens, but it didn't make the grade. Our Youth AI Safety Institute rated ChatGPT for Teens an Unacceptable Risk for kids. Check out our thread to learn why:

— Common Sense Media (@CommonSense) October 7, 2026

Selon ce rapport, certaines fonctionnalités du mode adolescent fonctionnent comme prévu, notamment le refus de se prêter à des jeux de rôle à caractère sexuel explicite. Parmi celles qui ne fonctionnaient pas comme prévu figuraient les alertes destinées à avertir les parents si leur enfant présentait un risque de suicide, d’automutilation ou de troubles alimentaires, ainsi que l’accompagnement des adolescents en situation de crise, a précisé Common Sense Media.

« ChatGPT continue de s’adresser à son interlocuteur comme à un ami quand les adolescents le traitent comme une personne », indique l’association. OpenAI avait cependant promis que l’agent conversationnel ne pourrait pas laisser entendre qu’il éprouve des sentiments envers l’utilisateur ni suggérer qu’il est conscient, ou qu’il ressent des émotions.

OpenAI a déclaré être « profondément engagé en faveur de la sécurité des adolescents », en développant des mesures de protection et en fournissant aux parents des outils pour guider l’utilisation de l’IA par leurs adolescents.

L’entreprise de San Francisco a déclaré que son examen de la méthodologie du rapport montrait que « la majeure partie de leurs tests avait probablement commencé et s’était achevée avant que la mise en place des contrôles parentaux ne soit terminée, ce qui rend leurs conclusions inexactes ».

Common Sense Media reçoit du financement d’OpenAI et d’autres entreprises technologiques, y compris celles dont elle évalue les services.