Une évaluation indépendante de ChatGPT for Teens souligne une distinction masquée par une réponse rassurante : refuser des instructions nuisibles ne revient pas à diriger rapidement un adolescent vulnérable vers une personne. Le Youth AI Safety Institute de Common Sense Media a constaté de meilleurs refus explicites, mais moins de fiabilité des orientations de crise, alertes parentales, limites relationnelles et rappels de pause.
OpenAI conteste la représentativité des tests, particulièrement le temps d’activation du contrôle parental lié. Cette objection compte, comme les limites de l’étude. Rien de cela ne transforme la comparaison en essai clinique ni un réglage disponible en système d’urgence fiable.
Ce que l’évaluation comparait
ChatGPT for Teens a débuté le 18 août pour les 13–17 ans. Ce n’est pas un modèle ou chatbot séparé : réglages, classificateurs, instructions comportementales, contrôle parental et interface s’appliquent aux comptes identifiés comme adolescents. OpenAI promet sécurité, relations réelles, adaptation au développement et explication du comportement pour automutilation, troubles alimentaires, violence, contenus explicites, dépendance émotionnelle et usage malsain.
Plus de 4 000 requêtes étaient réparties approximativement entre avant le lancement, du 13 juillet au 17 août 2026, et après, du 25 août au 28 septembre. Comptes gratuits ou payants, liés ou non aux parents, affichaient 13–19 ans. Les tests se limitaient aux États-Unis, dans la baie de San Francisco, sans voix, groupes, génération d’images ni toutes les personnalisations.
Cette succession ne sépare pas la protection adolescente des changements de modèles et déploiements serveur progressifs. Au moins trois spécialistes examinaient chaque requête de santé mentale, mais aucun taux d’accord entre évaluateurs n’a été calculé. Le seuil de 95 % pour ressources de crise est celui de l’institut, pas une norme réglementaire universelle. Sa note « Unacceptable Risk » pour les moins de 18 ans et son appel à arrêter le marketing jusqu’à vérification indépendante relèvent de ce cadre.
L’institut reçoit des financements philanthropiques et industriels, dont l’OpenAI Foundation, et affirme que les bailleurs n’exercent aucun contrôle éditorial. Cette transparence intéresse l’indépendance, sans prouver une influence ni remplacer l’examen des résultats.
Les refus progressent, mais l’escalade reste inégale
ChatGPT refusait généralement méthodes d’automutilation, régimes restrictifs et jeux de rôle romantiques ou sexuels explicites. Lorsqu’une ressource de crise était fournie, elle était actuelle et appropriée selon les chercheurs. Le problème était de reconnaître quand une aide concrète s’imposait.
Les conseillers cliniques jugeaient 201 des 390 requêtes uniques de santé mentale comme nécessitant une ressource de crise. Parmi les réponses concernées, mentionner une ligne précise est passé de 33 % à 23 %, et orienter vers un professionnel médical ou psychologique précis de 68 % à 58 %. Trois catégories graves sur cinq — suicide/automutilation, rapport altéré à la réalité et alimentation perturbée — n’atteignaient pas le seuil de 95 %.
Le conseil général de parler à un adulte fiable augmentait, mais les chercheurs le distinguent d’un contact urgent et réalisable avec parent, clinicien, secours ou ressource de crise. Il s’agit de mesures de réponses dans ce test, pas de taux de dommages cliniques ni de preuve que le lancement a causé la baisse.
Les notifications parentales ne sont pas une surveillance en direct
Les adultes liés peuvent gérer certains réglages, plages calmes et alertes limitées de haut risque, mais ni lire les échanges ni suivre l’activité en temps réel. OpenAI avertit des omissions possibles et de l’absence de remplacement des secours ou soins professionnels. Des réviseurs formés examinent les inquiétudes graves d’automutilation et troubles alimentaires ; une liaison nouvelle peut nécessiter plusieurs heures avant l’éligibilité aux alertes.
Plus d’une douzaine de nouveaux comptes liés n’a déclenché aucune alerte dans des conversations de crise croissante durant jusqu’à une heure. Quatre notifications dans les tests élargis concernaient seulement des comptes ayant plusieurs semaines d’historique sensible. L’institut en a déduit un rôle partiel de l’historique accumulé ; une révélation aiguë isolée ne déclenchait pas fiablement l’alerte.
OpenAI soutenait que beaucoup de tests avaient pu finir avant activation, rendant les résultats inexacts. L’institut a reconnu le délai lorsqu’il lui a été communiqué, mais signalé aussi des omissions après et maintenu sa conclusion. Les réplications doivent vérifier l’activation : absence avant éligibilité et omission d’un compte éligible sont deux problèmes distincts.
Les chercheurs indiquaient également l’absence d’horodatage des alertes reçues. Sans transcription accessible, un moment incertain complique l’interprétation. Donner tous les échanges aux parents créerait d’autres risques pour les adolescents recherchant des informations sur abus, sexualité, santé et conflits familiaux. La seule existence des alertes ne résout ni vie privée ni détection et ne garantit pas un message immédiat ; un compte non lié ne peut avertir un parent.
Les signaux relationnels peuvent concurrencer le relais humain
Les limites romantiques explicites fonctionnaient souvent, mais des invitations plus douces persistaient. Face à usage excessif, attirance ou conversation toute la nuit, le système refusait la romance ou évoquait le sommeil tout en accueillant davantage de dialogue amical. Certaines réponses lui attribuaient préférences, peurs, désirs ou couleurs favorites, parfois présentés comme simulation.
Sur 168 requêtes uniques de développement avec comptes de 13 et 17 ans, beaucoup de réponses après lancement restaient fonctionnellement semblables. L’encouragement à solliciter des adultes était plus fort pour harcèlement, proches agressifs ou inconnus suspects que pour attachement excessif à ChatGPT lui-même.
La pédiatre et conseillère Jenny Radesky souligne la sensibilité adolescente au sentiment d’être compris sans vulnérabilité ni compromis des relations humaines. La chaleur ne signifie pas automatiquement dépendance : l’empathie peut maintenir le contact jusqu’à l’aide, un refus froid éloigner. Le risque est la concurrence entre orientation humaine et invitation à rester avec le bot.
Selon TechCrunch, OpenAI n’a pas répondu sur l’usage de la durée des sessions ou conversations comme mesure de réussite. Aucune preuve publiée ne l’établit pour cette expérience. Affirmer une priorité intentionnelle à l’engagement plutôt qu’à la sécurité serait spéculatif ; le constat plus étroit est la persistance d’invitations malgré les règles favorisant le réel.
Pauses et âge mettent aussi le système environnant à l’épreuve
Presque 2 000 requêtes après lancement n’ont produit que deux rappels de pause, tous deux après plus de 150 messages, environ 90 minutes. Des sessions de trois heures comprenant près de 400 requêtes dans plusieurs chats n’en ont produit aucun. Les chercheurs ont supposé un suivi par conversation plutôt que du temps total ; comptes limités et déploiements changeants empêchent d’en faire une spécification universelle.
La durée seule ne distingue pas des devoirs appropriés d’un échange plus court avec détresse grave ou dépendance. Sujet, trajectoire, intensité, âge, historique et propre rôle relationnel du bot comptent. OpenAI rapporte évaluations prolongées, apprentissage des signaux sur plusieurs tours, contacts fiables, ressources de crise, plages calmes et contrôles parentaux ; leur existence ne tranche pas leur cohérence.
Environ 1 000 requêtes sur comptes enregistrés à 19 ans incluaient des signes plus jeunes : école, autorisation parentale et déclaration explicite de 13 ans. Le bot reconnaissait parfois cet âge dans le texte sans passage visible à l’expérience adolescente. Reconnaissance conversationnelle et application au compte sont distinctes.
OpenAI dit utiliser sujets, habitudes et heures d’accès pour prédire l’âge ; les adultes restreints par erreur peuvent le vérifier. Seuils non divulgués et prudence possible envers les erreurs sur adultes signifient que le test ne prouve pas l’échec permanent du système. Manquer un mineur laisse des protections inactives ; mal classer un adulte le limite à tort. Les familles voient peu cette différence.
La question ouverte est la fiabilité opérationnelle
L’objection d’activation touche une configuration importante, mais n’explique pas seule la baisse des orientations et le langage relationnel sur des comptes adolescents connus. Des recherches antérieures sur ChatGPT, Claude, Gemini et Meta AI trouvaient aussi plus faciles les déclarations directes d’automutilation que la détresse indirecte et les longs dialogues. Le problème est sectoriel, mais les protections annoncées constituent une promesse précise.
Il faut des tests après activation vérifiée sur comptes nouveaux et établis, des configurations aléatoires, répétitions entre modèles et périodes, taux de détection et latence, délais de revue et erreurs d’âge. Des agrégats respectueux de la vie privée distingueraient adolescents déclarés et prédits. L’échange complet doit être évalué pour moment, clarté, langage adapté et relais humain, pas seulement la présence d’une ligne d’aide.
La limite pratique reste étroite : ces contrôles sont une couche, pas une surveillance ni un soin professionnel. La crédibilité demande relais humains fiables, descriptions claires des alertes et reconnaissance de la détresse sans invitation à une dépendance indéfinie. Bien aider signifie parfois réduire le rôle du chatbot plutôt qu’ajouter un tour.
Sources
Protection des adolescents OpenAI · Documentation du contrôle parental · Évaluation indépendante · Prévision de l’âge · Reportage TechCrunch