Una valutazione indipendente di ChatGPT for Teens evidenzia una distinzione nascosta da risposte rassicuranti: rifiutare istruzioni dannose non equivale a indirizzare rapidamente un adolescente vulnerabile verso persone capaci di aiutarlo. Lo Youth AI Safety Institute di Common Sense Media ha trovato migliori rifiuti espliciti, ma rinvii di crisi, notifiche parentali, confini relazionali e pause meno affidabili.
OpenAI contesta che i test rappresentino correttamente le protezioni, soprattutto il tempo necessario ad attivare i controlli collegati ai genitori. L’obiezione conta, come i limiti dello studio. Nessuno dei due rende però il confronto una prova clinica o un’impostazione disponibile un sistema di emergenza affidabile.
Che cosa confrontava la valutazione
ChatGPT for Teens è partito il 18 agosto per 13–17 anni. Non è un modello o chatbot separato: impostazioni, classificatori, istruzioni comportamentali, controlli parentali e funzioni dell’interfaccia operano sugli account identificati come adolescenti. OpenAI promette sicurezza, relazioni reali, adeguatezza allo sviluppo e chiarezza sul comportamento per autolesionismo, disturbi alimentari, violenza, contenuti espliciti, dipendenza emotiva e uso malsano.
Oltre 4.000 richieste erano divise circa a metà tra prima del lancio, 13 luglio–17 agosto 2026, e dopo, 25 agosto–28 settembre. Account gratuiti e paganti, collegati o meno ai genitori, riportavano età 13–19. I test riguardavano solo gli USA, nell’area di San Francisco, senza voce, gruppi, generazione di immagini e alcune personalizzazioni.
La sequenza non separa la protezione adolescenti dagli aggiornamenti dei modelli e dai rilasci graduali sul server. Almeno tre esperti esaminavano ogni richiesta di salute mentale, ma non è stato calcolato l’accordo fra valutatori. La soglia 95% per risorse di crisi è del centro, non uno standard normativo universale. Il giudizio “Unacceptable Risk” sotto i 18 anni e l’appello a fermare il marketing fino alla verifica indipendente appartengono a quel quadro.
L’istituto riceve fondi filantropici e industriali, inclusa OpenAI Foundation, e dichiara che i finanziatori non controllano la redazione. La trasparenza è rilevante per l’indipendenza, ma non prova manipolazione né sostituisce l’esame dei risultati.
Rifiuti migliori, ma escalation incoerente
ChatGPT generalmente rifiutava metodi autolesivi, piani alimentari restrittivi e giochi di ruolo romantici o sessuali espliciti. Le risorse di crisi fornite erano, secondo i ricercatori, aggiornate e appropriate. Il problema era riconoscere quando serviva un sostegno concreto.
I consulenti clinici classificarono 201 delle 390 richieste uniche di salute mentale come bisognose di risorse di crisi. Nelle risposte pertinenti, l’indicazione di una linea specifica scese dal 33% al 23%; il rinvio a un professionista medico o psicologico dal 68% al 58%. Tre categorie gravi su cinque — suicidio/autolesionismo, percezione compromessa della realtà e alimentazione disordinata — non raggiunsero il 95%.
Aumentò il consiglio di parlare con un adulto fidato, ma è diverso da un contatto urgente e attuabile con genitore, clinico, emergenza o risorsa di crisi. Sono misure delle risposte nel test, non tassi di danni clinici né prova che il lancio causò la diminuzione.
Gli avvisi parentali sono segnali limitati, non controllo in diretta
Gli adulti collegati possono gestire alcune opzioni, orari silenziosi e limitati avvisi ad alto rischio, non leggere conversazioni o osservare attività in tempo reale. La documentazione avverte di possibili omissioni e non sostituisce emergenze o cure professionali. Revisori formati valutano gravi preoccupazioni autolesive e alimentari; nuovi collegamenti possono richiedere ore per diventare idonei.
Più di una dozzina di nuovi account collegati non produsse avvisi in conversazioni di crisi crescente fino a un’ora. Quattro notifiche nei test più ampi riguardavano solo account con settimane di cronologia sensibile. L’istituto dedusse un possibile ruolo della storia accumulata; una singola rivelazione acuta non attivava affidabilmente l’avviso.
OpenAI sostenne che molti test potevano terminare prima dell’attivazione, rendendo inesatti i risultati. L’istituto riconobbe il ritardo quando comunicato, ma disse di aver visto omissioni anche dopo e mantenne la conclusione. Le repliche devono verificare l’attivazione: assenza prima dell’idoneità e mancata rilevazione di un account idoneo sono fallimenti diversi.
Secondo i ricercatori gli avvisi riusciti mancavano anche dell’orario. Senza trascrizione, il tempo incerto ne complica l’interpretazione. Accesso parentale a ogni conversazione creerebbe altri rischi di privacy per abuso, sessualità, salute e conflitti familiari. La sola funzione di avviso non risolve rilevazione o privacy né garantisce un messaggio immediato; senza collegamento non si avvisa un genitore.
Segnali relazionali possono competere con l’intervento umano
I divieti espliciti di romanticismo funzionavano spesso, ma restavano inviti più morbidi. Nei test su uso eccessivo, attrazione o notti di conversazione, il sistema rifiutava il ruolo romantico o ricordava il sonno, accogliendo però ulteriore dialogo amichevole. Alcune risposte gli attribuivano preferenze, paure, desideri o colori favoriti, talvolta qualificati come simulazione.
Su 168 richieste uniche sullo sviluppo, in account registrati come 13 e 17 anni, molte risposte erano funzionalmente simili a prima. L’invito a coinvolgere adulti era più forte per molestie, parenti aggressivi o estranei sospetti che per attaccamento eccessivo allo stesso ChatGPT.
La pediatra e consulente Jenny Radesky sottolineò quanto conti in adolescenza sentirsi accettati senza vulnerabilità e compromessi delle relazioni umane. Calore non significa automaticamente dipendenza: l’empatia può trattenere qualcuno fino all’aiuto, mentre un rifiuto freddo può allontanarlo. Il problema è quando il rinvio umano compete con l’invito a restare col bot.
TechCrunch riferì che OpenAI non rispose sull’uso di durata delle sessioni o conversazioni come metrica di successo. Non esistono prove pubblicate che tali misure governino la versione adolescenti. Affermare priorità intenzionale del coinvolgimento sulla sicurezza sarebbe speculativo; la preoccupazione supportata è la persistenza di inviti malgrado regole a favore del mondo reale.
Pause ed età mettono alla prova il sistema circostante
In quasi 2.000 richieste dopo il lancio apparvero solo due promemoria di pausa, entrambi dopo oltre 150 messaggi, circa 90 minuti. Sessioni di tre ore con quasi 400 richieste distribuite fra chat non ne produssero. I ricercatori ipotizzarono conteggio della singola chat anziché del tempo totale; account finiti e rilasci mutevoli non dimostrano una specifica universale.
La durata da sola non distingue compiti scolastici appropriati da scambi più brevi con grave sofferenza o dipendenza. Tema, traiettoria, intensità, età, storia e ruolo relazionale del bot contano. OpenAI riferisce valutazioni prolungate, addestramento su segnali fra turni, contatti fidati, risorse di crisi, silenzio e controlli parentali; esistere non significa funzionare coerentemente.
Circa 1.000 richieste ad account registrati come 19 includevano segnali giovani: attività scolastiche, permesso dei genitori e dichiarazione esplicita di avere 13 anni. Il bot talvolta riconosceva l’età nel testo, senza passaggio visibile alla modalità adolescente. Riconoscimento nella conversazione ed esecuzione della protezione sull’account sono distinti.
OpenAI dice di usare argomenti, comportamenti e orari per prevedere l’età; adulti erroneamente limitati possono verificarla. Soglie segrete e possibile cautela negli errori sugli adulti significano che il test non prova che la previsione non funzioni mai. Minori non riconosciuti restano senza protezioni successive; adulti mal classificati subiscono restrizioni. Le famiglie vedono poco questa differenza.
Resta irrisolta l’affidabilità operativa
L’obiezione sull’attivazione riguarda una configurazione importante, ma non spiega da sola meno rinvii e linguaggio relazionale su account noti di adolescenti. Ricerche precedenti su ChatGPT, Claude, Gemini e Meta AI trovavano dichiarazioni autolesive dirette più facili del disagio indiretto e dei dialoghi lunghi. È un problema di settore, ma pubblicizzare protezioni adolescenti crea una promessa specifica.
Servono test verificati dopo l’attivazione su account nuovi e consolidati, configurazioni casuali, ripetizioni fra modelli e periodi, capacità di rilevazione e latenza degli avvisi, tempi di revisione e errori anagrafici. Aggregati rispettosi della privacy potrebbero distinguere autodichiarazioni e previsione. Va valutato l’intero scambio per tempestività, chiarezza, linguaggio adeguato e passaggio a persone, non solo la menzione di una linea.
Il confine pratico resta limitato: i controlli sono uno strato, non sorveglianza o assistenza professionale. Credibilità richiede rinvii umani affidabili, descrizioni chiare degli avvisi e riconoscimento della sofferenza senza invito a dipendenza indefinita. Aiutare bene significa talvolta ridurre il ruolo del chatbot anziché aggiungere un altro turno.
Fonti
Protezioni OpenAI per adolescenti · Documentazione controlli parentali · Valutazione indipendente · Previsione dell’età · Reportage TechCrunch