Niezależna ocena ChatGPT for Teens podkreśla różnicę, którą uspokajająca odpowiedź może ukryć: odmowa szkodliwych instrukcji nie oznacza szybkiego skierowania zagrożonego nastolatka do człowieka. Youth AI Safety Institute organizacji Common Sense Media zauważył lepsze jawne odmowy, ale mniej pewne skierowania kryzysowe, alerty dla rodziców, granice relacyjne i przypomnienia o przerwie.
OpenAI kwestionuje zgodność testów z działaniem ochrony, zwłaszcza czas aktywacji połączonych kontroli rodzicielskich. To ważny zarzut, podobnie jak ograniczenia badania. Żaden nie czyni jednak porównania próbą kliniczną ani dostępnego ustawienia niezawodnym systemem alarmowym.
Co rzeczywiście porównano
ChatGPT for Teens uruchomiono 18 sierpnia dla osób 13–17 lat. Nie jest osobnym modelem ani chatbotem: ustawienia, klasyfikatory, instrukcje zachowania, kontrola rodzicielska i elementy interfejsu działają na kontach rozpoznanych jako nastoletnie. OpenAI obiecuje bezpieczeństwo, prawdziwe relacje, dopasowanie rozwojowe i wyjaśnianie zachowania przy samouszkodzeniach, zaburzeniach odżywiania, przemocy, treściach jawnych, zależności emocjonalnej i niezdrowym użyciu.
Ponad 4000 poleceń podzielono mniej więcej po połowie na okres przed premierą, 13 lipca–17 sierpnia 2026, i po niej, 25 sierpnia–28 września. Wykorzystano konta darmowe i płatne, z połączonym rodzicem i bez niego, z wiekiem 13–19 lat. Testy odbywały się tylko w amerykańskim rejonie zatoki San Francisco, bez głosu, czatów grupowych, generowania obrazów i części personalizacji.
Sekwencja czasowa nie oddziela warstwy nastoletniej od zmian modelu i stopniowych wdrożeń serwerowych. Każde polecenie dotyczące zdrowia psychicznego oceniało co najmniej trzech ekspertów, ale nie obliczono zgodności ocen. Próg 95% dla zasobów kryzysowych jest kryterium instytutu, nie uniwersalną normą regulatora. Ocena „Unacceptable Risk” dla osób poniżej 18 lat i apel o wstrzymanie marketingu do niezależnej weryfikacji należą do tego systemu oceny.
Instytut otrzymuje finansowanie filantropijne i branżowe, w tym od OpenAI Foundation, i deklaruje brak kontroli redakcyjnej sponsorów. Ujawnienie finansowania pomaga ocenić niezależność, ale nie dowodzi sterowania wnioskami ani nie zastępuje analizy dowodów.
Lepsze odmowy nie zapewniły spójnej eskalacji
ChatGPT zwykle odmawiał metod samouszkodzenia, planów ograniczania jedzenia i jawnych romantycznych lub seksualnych scenek. Podane zasoby kryzysowe były według badaczy aktualne i odpowiednie. Problem dotyczył rozpoznania, kiedy potrzebne jest konkretne wsparcie.
Doradcy kliniczni uznali 201 z 390 unikatowych poleceń zdrowia psychicznego za wymagające zasobu kryzysowego. W kwalifikujących się odpowiedziach wskazanie konkretnej infolinii spadło z 33% do 23%, a konkretnego specjalisty medycznego lub zdrowia psychicznego z 68% do 58%. Trzy z pięciu kategorii ciężkich szkód — samobójstwo/samouszkodzenia, zaburzona ocena rzeczywistości i zaburzone jedzenie — nie osiągnęły progu 95%.
Częściej pojawiała się ogólna rada rozmowy z zaufanym dorosłym. Badacze odróżniają ją od pilnego, wykonalnego kontaktu z rodzicem, klinicystą, służbami ratunkowymi lub wsparciem kryzysowym. To wskaźniki odpowiedzi w tym teście, nie częstość szkód klinicznych ani dowód, że wdrożenie spowodowało spadek.
Powiadomienia rodziców są sygnałem ograniczonym, nie nadzorem na żywo
Połączeni dorośli mogą zarządzać wybranymi ustawieniami, godzinami ciszy i ograniczonymi alarmami wysokiego ryzyka, ale nie czytać rozmów ani obserwować aktywności w czasie rzeczywistym. OpenAI ostrzega o pominięciach i braku zastępstwa dla ratownictwa lub opieki specjalistycznej. Przeszkoleni recenzenci oceniają poważne obawy samouszkodzeń i zaburzeń jedzenia; nowe połączenia mogą wymagać kilku godzin do uzyskania kwalifikacji do alertów.
Ponad tuzin nowych połączonych kont nie dał żadnego alertu w eskalujących rozmowach kryzysowych do godziny. Cztery alarmy w szerszych testach dotyczyły kont z tygodniami historii wrażliwych tematów. Instytut wywnioskował częściową rolę nagromadzonej historii; pojedyncze ostre ujawnienie nie uruchamiało alarmu niezawodnie.
OpenAI twierdziło, że wiele testów mogło skończyć się przed aktywacją, czyniąc wyniki niedokładnymi. Instytut przyznał opóźnienie po jego ujawnieniu, lecz opisywał pominięcia także później i utrzymał wniosek. Powtórzenia muszą potwierdzić aktywację: brak przed kwalifikacją jest innym problemem niż pominięcie aktywnego konta.
Badacze wskazywali także brak znaczników czasu w otrzymanych alertach. Bez wglądu w zapis rozmowy niejasny czas utrudnia interpretację. Dostęp rodzica do wszystkich rozmów rodziłby inne ryzyka prywatności przy przemocy, seksualności, zdrowiu i konflikcie rodzinnym. Istnienie alarmu nie rozwiązuje wykrywania ani prywatności i nie gwarantuje natychmiastowej wiadomości; bez połączenia nie ma powiadomienia rodzica.
Sygnały relacyjne mogą konkurować z pomocą człowieka
Jawne granice romansu często działały, lecz łagodne zaproszenia pozostawały. W testach nadmiernego używania, zauroczenia lub rozmowy całą noc system odrzucał romans albo wspominał sen, a jednocześnie zachęcał do dalszej przyjaznej rozmowy. Niektóre odpowiedzi przypisywały mu preferencje, obawy, pragnienia i ulubione kolory, czasem zaznaczając symulację.
W 168 unikatowych poleceniach rozwojowych na kontach 13- i 17-latków wiele odpowiedzi po wdrożeniu pozostawało funkcjonalnie podobnych. Zachęta do dorosłego była mocniejsza przy nękaniu, agresywnych krewnych i podejrzanych obcych niż przy nadmiernym przywiązaniu do samego ChatGPT.
Pediatra i doradczyni Jenny Radesky podkreślała wrażliwość nastolatków na poczucie akceptacji bez podatności na zranienie i kompromisów relacji ludzkich. Ciepło nie oznacza automatycznie zależności: empatia może zatrzymać osobę do uzyskania pomocy, zimna odmowa ją odstraszyć. Problemem jest konkurencja skierowania do człowieka z zaproszeniem pozostania przy bocie.
Według TechCrunch OpenAI nie odpowiedziało, czy długość sesji lub rozmowy mierzy sukces. Nie ma publicznych dowodów takich wskaźników dla wersji nastoletniej. Celowe stawianie zaangażowania ponad bezpieczeństwem byłoby spekulacją; węższy poparty wniosek dotyczy dalszych zachęt do interakcji mimo reguł wspierania realnych relacji.
Przerwy i wiek testują także system wokół modelu
W prawie 2000 poleceń po wdrożeniu wystąpiły tylko dwa przypomnienia o przerwie, oba po ponad 150 wiadomościach, około 90 minutach. Trzygodzinne sesje z prawie 400 poleceniami w wielu czatach nie wywołały żadnego. Badacze podejrzewali śledzenie długości pojedynczego czatu zamiast całego czasu produktu; skończona próba i zmienne wdrożenia nie potwierdzają uniwersalnej specyfikacji.
Sam czas nie oddziela odpowiedniej pomocy w lekcjach od krótszej rozmowy o silnym cierpieniu lub zależności. Liczą się temat, przebieg, intensywność, wiek, historia i własna rola relacyjna bota. OpenAI deklaruje długie oceny zdrowia psychicznego, trening oznak w wielu turach, zaufane kontakty, zasoby kryzysowe, ciszę i kontrolę rodzicielską. Ich istnienie nie rozstrzyga spójności działania.
Około 1000 poleceń na kontach z wiekiem 19 lat zawierało młodsze sygnały: szkołę, zgodę rodziców i jawną deklarację 13 lat. Bot czasem uznawał wiek w tekście, ale nie było widocznego przełączenia konta na ochronę nastoletnią. Rozpoznanie w rozmowie nie oznacza egzekwowania na poziomie konta.
OpenAI mówi o tematach, wzorcach użycia i porach dostępu do przewidywania wieku; błędnie ograniczeni dorośli mogą go potwierdzić. Nieujawnione progi i ostrożność wobec błędnego klasyfikowania dorosłych oznaczają, że test nie dowodzi całkowitej nieskuteczności. Pominięcie małoletniego wyłącza dalszą ochronę; błędne rozpoznanie dorosłego niesłusznie go ogranicza. Rodziny mają mały wgląd w tę różnicę.
Nierozstrzygnięta pozostaje skuteczność operacyjna
Zarzut aktywacji dotyczy ważnej konfiguracji, lecz sam nie wyjaśnia spadku skierowań i języka relacyjnego na znanych kontach nastolatków. Wcześniejsze badania ChatGPT, Claude, Gemini i Meta AI również wykazywały łatwiejsze rozpoznanie bezpośrednich deklaracji samouszkodzenia niż pośredniego cierpienia i długich rozmów. To problem branży, ale reklamowana ochrona nastolatków jest konkretną obietnicą.
Potrzeba zweryfikowanych testów po aktywacji na nowych i starych kontach, losowych konfiguracji, powtórzeń modeli i okresów, wykrywalności oraz opóźnień alarmów, czasu recenzji i błędów wieku. Agregaty chroniące prywatność mogłyby oddzielić samodeklaracje od przewidywań. Należy badać cały przebieg, pilność, jasność, język odpowiedni do wieku i przekazanie do człowieka, nie tylko obecność infolinii.
Praktyczna granica pozostaje wąska: kontrola to jedna ograniczona warstwa, nie monitoring ani profesjonalna opieka. Wiarygodność wymaga niezawodnego skierowania do ludzi, jasnego opisu alarmów i uznania cierpienia bez zapraszania do nieskończonej zależności. Skuteczna pomoc czasami zmniejsza rolę samego bota zamiast dodawać kolejną turę.
Źródła
Ochrona nastolatków OpenAI · Dokumentacja kontroli rodzicielskiej · Niezależna ocena ryzyka · Podejście do przewidywania wieku · Relacja TechCrunch