OpenAI komt met ChatGPT voor tieners na heftige kritiek rond zelfdodingen

OpenAI komt met een nieuwe versie van chatbot ChatGPT voor tieners. Deze versie krijgt strengere veiligheidsmaatregelen. Het bedrijf ligt al langer onder vuur vanwege de mogelijke schadelijke gevolgen van ChatGPT voor jongeren.

Deze nieuwe versie wordt automatisch ingeschakeld voor gebruikers tussen de dertien en zeventien jaar. Ook gebeurt dit als gebruikspatronen erop wijzen dat het waarschijnlijk om een minderjarige gaat.

Volgens OpenAI herinnert de tienermodus gebruikers er vaker aan om pauze te nemen. OpenAI blokkeert de dienst ook tijdens 'stille uren'. De chatbot mag geen eigen bewustzijn suggereren. Ouders kunnen een waarschuwing krijgen als gesprekken gaan over zelfbeschadiging of zelfdoding.

OpenAI introduceert de tienermodus terwijl toezichthouders de druk op het bedrijf opvoeren. Het bedrijf heeft ook te maken met meerdere rechtszaken, onder meer van de ouders van de zestienjarige Adam Raine. Hij kwam door zelfdoding om het leven. Volgens zijn ouders gebruikte hij daarbij methoden die ChatGPT hem had aangeraden.

Eerder schreef NU.nl over de wenselijkheid van het vervangen van therapie door chatbots als ChatGPT. Therapeuten vragen zich af of contact met een chatbot wel te vergelijken is met menselijk contact, zei psycholoog Anita Hubner toen. "Mis je dan niet veel dingen die alleen van mens tot mens mogelijk zijn?"

Af en toe gebruikmaken van een chatbot kan wel voordelen hebben, ziet de psycholoog. "Het moet én-én zijn", zegt ze. "Dit soort veranderingen zijn niet tegen te houden. Het lijkt me daarom beter te zoeken naar een balans tussen therapie in de spreekkamer en de vorm van therapie die een chatbot je kan bieden.

Denk jij aan zelfdoding of maak je je zorgen om iemand anders? Bel 113 of 0800-0113 of chat via 113.nl.