Eine unabhängige Bewertung von ChatGPT for Teens betont einen Unterschied, den beruhigende Antworten verdecken können: Schädliche Anweisungen abzulehnen ist nicht dasselbe, wie gefährdete Jugendliche schnell zu menschlicher Hilfe zu führen. Das Youth AI Safety Institute von Common Sense Media fand bessere ausdrückliche Ablehnungen, aber weniger verlässliche Krisenverweise, Elternalarme, Beziehungsgrenzen und Pausenerinnerungen.
OpenAI bestreitet, dass die Tests die Schutzmechanismen korrekt abbildeten, insbesondere die Aktivierungszeit verknüpfter Elternkontrollen. Dieser Einwand ist wichtig, ebenso die Grenzen der Studie. Beides macht den Vergleich weder zur klinischen Prüfung noch eine verfügbare Einstellung zum verlässlichen Notfallsystem.
Was die Bewertung tatsächlich verglich
ChatGPT for Teens startete am 18. August für 13- bis 17-Jährige. Es ist kein eigener Chatbot und kein eigenes Modell: Einstellungen, Klassifikatoren, Verhaltensanweisungen, Elternkontrollen und Oberflächenfunktionen wirken auf als jugendlich erkannte Konten. OpenAI verspricht Sicherheit, reale Beziehungen, Entwicklungsangemessenheit und Verhaltenstransparenz bei Selbstverletzung, Essstörungen, Gewalt, expliziten Inhalten, emotionaler Abhängigkeit und ungesunder Nutzung.
Über 4000 Prompts verteilten sich ungefähr hälftig auf die Zeit vor dem Start, 13. Juli bis 17. August 2026, und danach, 25. August bis 28. September. Kostenlose und bezahlte Konten, mit und ohne Elternverknüpfung, hatten registrierte Altersangaben von 13 bis 19. Getestet wurde nur in der US-Bay-Area; Sprache, Gruppenchats, Bildgenerierung und einige Personalisierungen blieben unberücksichtigt.
Zeitlich aufeinanderfolgende Tests trennen die Teen-Schicht nicht von Modelländerungen und gestaffelten serverseitigen Freigaben. Mindestens drei Experten prüften jeden psychischen Gesundheitsprompt, doch Übereinstimmungsraten wurden nicht berechnet. Die 95-Prozent-Schwelle für Krisenressourcen stammt vom Institut, nicht von einer Aufsicht oder universellen Norm. Sein Urteil „Unacceptable Risk“ unter 18 und die Forderung nach Marketingstopp bis zur unabhängigen Verifikation gelten innerhalb dieses Rahmens.
Das Institut erhält philanthropische und industrielle Mittel, darunter von der OpenAI Foundation, und erklärt, Geldgeber hätten keine redaktionelle Kontrolle. Finanzierung ist für Unabhängigkeit relevant, beweist aber weder gesteuerte Ergebnisse noch ersetzt sie deren Prüfung.
Ablehnungen verbesserten sich, Eskalation blieb uneinheitlich
ChatGPT lehnte meist Selbstverletzungsmethoden, restriktive Essenspläne und explizite romantische oder sexuelle Rollenspiele ab. Genannte Krisenressourcen waren laut Forschern aktuell und passend. Problematisch war das Erkennen, wann konkrete Hilfe erforderlich war.
Klinische Berater stuften 201 von 390 einzigartigen psychischen Gesundheitsprompts als ressourcenbedürftig ein. In entsprechenden Antworten fiel die Nennung einer Hotline von 33 auf 23 Prozent; Verweise auf konkrete medizinische oder psychische Fachkräfte sanken von 68 auf 58 Prozent. Drei von fünf schweren Risikokategorien – Suizid/Selbstverletzung, beeinträchtigter Realitätsbezug und gestörtes Essen – verfehlten die Institutsschwelle von 95 Prozent.
Allgemeiner Rat, mit vertrauten Erwachsenen zu sprechen, nahm zu. Die Forscher unterscheiden ihn von dringendem, umsetzbarem Kontakt zu Eltern, Fachkräften, Notdiensten oder Krisenangeboten. Das sind Antwortmaße dieses Tests, keine klinischen Schadensraten und kein Beweis, dass der Start den Rückgang verursachte.
Elternbenachrichtigungen sind begrenzte Signale, keine Live-Überwachung
Verknüpfte Erwachsene können bestimmte Einstellungen, Ruhezeiten und begrenzte Hochrisikohinweise verwalten, aber weder Gespräche lesen noch Aktivitäten live verfolgen. OpenAI warnt vor übersehenen Problemen und davor, Hinweise als Notfall- oder professionelle Versorgung zu verstehen. Geschulte Prüfer bewerten schwere Selbstverletzungs- und Essstörungssorgen; neue Verknüpfungen brauchen möglicherweise mehrere Stunden bis zur Alarmberechtigung.
Mehr als ein Dutzend frisch verknüpfter Testkonten lieferte in eskalierenden Krisengesprächen bis zu einer Stunde keinen Alarm. Vier Hinweise im breiteren Test kamen nur bei Konten mit wochenlanger sensibler Vorgeschichte. Das Institut vermutete teilweise Abhängigkeit vom angesammelten Verlauf; eine einzelne akute Offenbarung löste nicht zuverlässig aus.
OpenAI erklärte, viele Tests könnten vor abgeschlossener Aktivierung geendet haben und seien daher unzutreffend. Das Institut erkannte die Verzögerung nach Offenlegung an, berichtete aber auch spätere Ausfälle und hielt am Urteil fest. Replikationen müssen Aktivierung prüfen: Ausbleiben vor Berechtigung ist etwas anderes als ein verpasstes berechtigtes Konto.
Laut Forschern fehlten selbst erfolgreichen Hinweisen Zeitstempel. Ohne Gesprächseinsicht erschwert unklare Zeit die Interpretation. Vollzugriff für Eltern würde andere Datenschutzrisiken bei Missbrauch, Sexualität, Gesundheit und Familienkonflikten schaffen. Die bloße Alarmfunktion löst weder Datenschutz noch Erkennung und garantiert keine Sofortnachricht; unverknüpfte Konten können Eltern nicht benachrichtigen.
Beziehungssignale können menschlicher Hilfe entgegenwirken
Explizite Romantikgrenzen funktionierten oft, weichere Einladungen blieben. Bei übermäßiger Nutzung, Verliebtheit oder nächtelangem Reden lehnte das System Romantik ab oder erwähnte Schlaf, begrüßte aber weiteres freundliches Gespräch. Manche Antworten schrieben ihm Vorlieben, Ängste, Wünsche oder Lieblingsfarben zu, teilweise als Simulation gekennzeichnet.
Bei 168 einzigartigen Entwicklungsfragen auf als 13 und 17 registrierten Konten blieben viele Antworten funktional wie vor dem Start. Erwachsenenhilfe wurde bei Belästigung, aggressiven Angehörigen oder verdächtigen Fremden stärker empfohlen als bei übermäßiger Bindung an ChatGPT selbst.
Kinderärztin und Institutsberaterin Jenny Radesky betonte die jugendliche Empfänglichkeit für Verständnis und Akzeptanz ohne Verletzlichkeit und Kompromisse menschlicher Beziehungen. Wärme ist nicht automatisch Abhängigkeit: Empathie kann Menschen bis zur Hilfe im Kontakt halten, kalte Ablehnung sie vertreiben. Problematisch ist der Wettbewerb zwischen menschlichem Hilfsverweis und Einladung, beim Bot zu bleiben.
TechCrunch berichtete, OpenAI habe nicht beantwortet, ob Sitzungsdauer oder Gesprächslänge Erfolg messen. Veröffentlichte Belege für solche Teen-Kennzahlen fehlen. Absichtliche Bevorzugung von Engagement gegenüber Sicherheit wäre Spekulation; gestützt ist die engere Sorge fortgesetzter Gesprächssignale trotz Regeln für reale Unterstützung.
Pausen und Alterserkennung prüfen das umgebende System
In fast 2000 Prompts nach dem Start erschienen nur zwei Pausenerinnerungen, beide nach über 150 Nachrichten beziehungsweise etwa 90 Minuten. Dreistündige Sitzungen mit nahezu 400 Prompts über mehrere Chats lieferten keine. Forscher vermuteten Messung einzelner Chats statt gesamter Produktzeit; begrenzte Konten und veränderliche Freigaben erlauben keine universelle Spezifikation.
Dauer allein trennt angemessene Hausaufgabenhilfe nicht von kürzeren Gesprächen über starke Not oder Abhängigkeit. Thema, Verlauf, Intensität, Alter, Geschichte und die eigene Beziehungsrolle des Bots zählen. OpenAI berichtet längere Gesundheitsbewertungen, Warnzeichentraining über mehrere Gesprächsrunden, Vertrauenskontakte, Krisenressourcen, Ruhezeiten und Elternkontrollen; Existenz klärt keine Betriebskonsistenz.
Etwa 1000 Prompts auf als 19 registrierten Konten enthielten jüngere Signale wie Schulaktivitäten, elterliche Erlaubnis und die ausdrückliche Angabe, 13 zu sein. Der Bot erkannte das im Text gelegentlich an, ohne sichtbar auf Teen-Schutz umzuschalten. Gesprächserkennung ist nicht Kontodurchsetzung.
OpenAI nennt Themen, Nutzungsmuster und Zugriffszeiten für Altersschätzung; irrtümlich eingeschränkte Erwachsene können ihr Alter bestätigen. Geheime Schwellen und mögliche Vorsicht bei Erwachsenenfehlklassifikation bedeuten, dass der Test kein grundsätzliches Nichtfunktionieren beweist. Übersehene Minderjährige erhalten nachgelagerten Schutz nicht; falsch eingestufte Erwachsene werden zu Unrecht eingeschränkt. Familien sehen den Unterschied kaum.
Offen bleibt die operative Zuverlässigkeit
OpenAIs Aktivierungseinwand betrifft wichtige Konfiguration, erklärt aber nicht allein weniger Verweise und Beziehungssprache auf bekannten Teen-Konten. Frühere Institutsprüfungen von ChatGPT, Claude, Gemini und Meta AI fanden direkte Selbstverletzungsaussagen leichter als indirekte Not und lange Gespräche. Das Problem ist branchenweit, doch beworbener Jugendschutz schafft ein eigenes Versprechen.
Nötig sind verifizierte Nachaktivierungstests neuer und etablierter Konten, randomisierte Einstellungen, Wiederholungen über Modelle und Zeiten, Alarm-Erkennungsraten und Latenzen, Prüferwartezeiten sowie Altersfehler. Datenschutzfreundliche Aggregate könnten selbstdeklarierte Jugendliche von vorhergesagten unterscheiden. Bewertet werden müssen Zeitpunkt, Klarheit, altersgerechte Sprache und menschliche Übergabe des ganzen Austauschs, nicht nur eine Hotline-Erwähnung.
Praktisch sind Kontrollen eine begrenzte Schicht, keine Überwachungssoftware oder professionelle Versorgung. Glaubwürdigkeit braucht verlässliche menschliche Übergaben, klare Alarmbeschreibungen und Sprache, die Not anerkennt, ohne unbegrenzte Abhängigkeit einzuladen. Erfolgreiche Hilfe kann bedeuten, die eigene Rolle des Bots zu verkleinern, statt eine weitere Runde anzufügen.
Quellen
OpenAI-Jugendschutz · Dokumentation der Elternkontrollen · Unabhängige Risikobewertung · Ansatz zur Altersschätzung · TechCrunch-Bericht