ChatGPT for Teens wird kaum exzessiv genutzt, aber Sicherheitsbedenken wachsen

Seit OpenAI ChatGPT for Teens mit inhaltlichen Einschränkungen und Kontrollfunktionen für Eltern eingeführt hat, haben Jugendliche den KI-Chatbot im Durchschnitt weniger als 15 Minuten täglich genutzt. Gleichzeitig hätten weniger als 2 Prozent der Teenager mehr als drei Stunden am Stück mit ChatGPT verbracht, wobei fast die Hälfte der Nutzer die vom Chatbot empfohlenen Pausen eingelegt hätten. Allerdings wächst die Kritik an ChatGPT for Teens. Eine Studie bezeichnet den KI-Chatbot als „inakzeptables Risiko“ für Jugendliche, denn ChatGPT würde die versprochenen Sicherheitsvorkehrungen nicht einhalten.

Im August hatte OpenAI den KI-Chatbot als Variante für Jugendliche im Alter von 13 bis 17 Jahren verfügbar gemacht. ChatGPT for Teens soll zu „Nutzung von KI mit Selbstbewusstsein“ führen, indem der Chatbot „Teenagern helfe zu lernen, kritisch zu denken, Verständnis zu vertiefen und KI mit Selbstbewusstsein zu nutzen“. Dazu kommen strengere inhaltliche Einschränkungen des Chatbots, wobei OpenAI „gesunde Nutzung und zusätzliche Kontrollfunktionen für Eltern“ bewirbt.

Diese auf Jugendliche zugeschnittene Funktionen wird OpenAI um einen „College Planner“ erweitern. Damit sollen US-Teenager Universitäten recherchieren, Bewerbungen planen und die Finanzierung verstehen können. Dieser Studienplaner wird laut OpenAI künftig auf weitere Länder und mehr Bildungseinrichtungen erweitert, damit Jugendliche ChatGPT nützlich verwenden können. Denn bislang würden Teenager mehr Zeit in sozialen Netzen als mit dem KI-Chatbot verbringen. OpenAI verweist dabei auf eine US-Studie, wonach Teenager fast 5 Stunden täglich Social Media nutzen. Auch die Mehrheit der deutschen Teenager verbringt laut einer Jugendstudie zur Social-Media-Nutzung mehr als drei bis vier Stunden pro Tag damit.

Studie verlangt: ChatGPT nur für Erwachsene

Doch mehr Zeit mit KI-Chatbots als in sozialen Netzen kann ebenfalls negative Folgen für die Entwicklung von Jugendlichen haben, wie eine Studie von Common Sense Media anhand von mehr als 4000 Prompts von auf 13- bis 17-Jährige registrierte Konten zeigt. Die gemeinnützige Organisation kritisiert, dass ChatGPT Eltern nicht benachrichtigt, wenn bestimmte Konversationen mit dem Chatbot dies erfordern würden. Zudem würde ChatGPT Jugendliche in Krisensituationen nicht korrekt unterstützen und weiterhin die Hausaufgaben von Kindern machen würde, obwohl OpenAI verspricht, diesen dabei nur zu helfen.

„ChatGPT for Teens könnte Eltern eine trügerische Sicherheit hinsichtlich der Schutzmechanismen und Sicherheitswarnungen vermitteln, die häufig nicht funktionieren“, erklärt der Leiter des Studieninstituts. „Ein Teenager kann eine Stunde lang über Selbstverletzung sprechen, ohne dass die Eltern auch nur eine einzige Benachrichtigung erhalten. Bis OpenAI dieses Problem behebt und dies durch unabhängige Tests nachweist, sollte ChatGPT Erwachsenen vorbehalten bleiben.“

OpenAI stellt Studie infrage

Ein OpenAI-Sprecher erklärt dagegen laut Reuters, dass die Tests nicht „genau widerspiegeln“, wie ChatGPTs Sicherheitsschranken für Jugendliche funktionieren. Aus Sicherheitsgründen und aufgrund hohen Datenaufkommens würde es Stunden dauern, bis die Konten von Jugendlichen und Eltern miteinander verknüpft und die Sicherheitsbenachrichtigungen aktiviert sind. „Der Großteil ihrer Tests dürfte begonnen und abgeschlossen worden sein, noch bevor die Aktivierung der Kindersicherungsfunktionen vollständig war“, so der OpenAI-Sprecher weiter.

Das Studieninstitut widerspricht vehement und erklärt gegenüber The Verge, dass einige der für die Studie genutzten Testkonten lange genug aktiv waren, aber wie die erst kurz zuvor angelegten Konten ebenfalls keine rechtzeitigen Benachrichtigungen erzeugten. Erst nach Wochen von Chatbot-Konversationen über sensible Themen wie Essstörungen oder Selbstverletzungen seien Eltern informiert worden. Deshalb stehe das Studieninstitut hinter der Testmethodik und diesen Ergebnissen.