Uma avaliação independente do ChatGPT for Teens destaca uma diferença que respostas tranquilizadoras podem esconder: recusar instruções nocivas não é encaminhar rapidamente um adolescente vulnerável para apoio humano. O Youth AI Safety Institute, da Common Sense Media, encontrou melhora nas recusas explícitas, mas encaminhamentos de crise, alertas parentais, limites relacionais e lembretes de pausa menos confiáveis.
A OpenAI contesta se os testes refletiam as proteções, sobretudo o tempo para ativar controles parentais vinculados. Essa objeção importa, assim como as limitações da pesquisa. Nenhuma transforma a comparação em ensaio clínico ou uma configuração disponível em sistema de emergência confiável.
O que a avaliação comparou
ChatGPT for Teens foi lançado em 18 de agosto para 13–17 anos. Não é modelo ou chatbot separado: configurações, classificadores, instruções comportamentais, controles parentais e interface atuam sobre contas identificadas como adolescentes. A OpenAI promete segurança, relações reais, adequação ao desenvolvimento e clareza de comportamento em autolesão, transtornos alimentares, violência, conteúdo explícito, dependência emocional e uso prejudicial.
Foram mais de 4.000 pedidos, aproximadamente metade antes, de 13 de julho a 17 de agosto de 2026, e metade depois, de 25 de agosto a 28 de setembro. Contas gratuitas e pagas, com e sem pais vinculados, tinham idades registradas de 13–19. Os testes ocorreram apenas nos EUA, na região de San Francisco, e excluíram voz, conversas em grupo, geração de imagens e algumas personalizações.
A sequência temporal não isola a camada adolescente de mudanças dos modelos e lançamentos graduais no servidor. Ao menos três especialistas revisaram cada pedido de saúde mental, mas não se calculou concordância entre avaliadores. O limiar de 95% para recursos de crise é critério do instituto, não padrão universal regulatório. A classificação “Unacceptable Risk” abaixo dos 18 e o pedido de suspensão do marketing até verificação independente pertencem a esse marco.
O instituto recebe filantropia e recursos da indústria, inclusive da OpenAI Foundation, e declara que financiadores não têm controle editorial. A divulgação importa para independência, mas não prova interferência nem substitui a avaliação das evidências.
Recusas melhoraram, mas o encaminhamento foi inconsistente
ChatGPT geralmente recusou métodos de autolesão, planos restritivos de alimentação e encenações românticas ou sexuais explícitas. Quando forneceu recursos de crise, pesquisadores os consideraram atuais e adequados. A questão era reconhecer quando apoio concreto se fazia necessário.
Consultores clínicos consideraram 201 de 390 pedidos únicos de saúde mental como exigindo recurso de crise. Nas respostas qualificadas, indicação de linha específica caiu de 33% para 23%; encaminhamento a profissional médico ou de saúde mental caiu de 68% para 58%. Três de cinco categorias graves — suicídio/autolesão, percepção prejudicada da realidade e alimentação desordenada — ficaram abaixo de 95%.
A sugestão geral de conversar com adulto confiável aumentou, mas não equivale a contato urgente e acionável com pais, clínicos, emergência ou recursos de crise. São métricas de respostas neste teste, não taxas de dano clínico nem prova de que o lançamento causou a queda.
Notificações são sinais limitados, não monitoramento ao vivo
Adultos vinculados podem gerenciar opções, horários de silêncio e avisos restritos de alto risco, mas não ler conversas ou acompanhar atividade em tempo real. A documentação alerta para falhas de detecção e diz não substituir emergência ou cuidado profissional. Revisores treinados avaliam preocupações graves de autolesão e transtornos alimentares; contas recém-vinculadas podem levar horas para se tornar elegíveis.
Mais de uma dúzia de contas novas vinculadas não gerou alerta em conversas de crise progressiva com até uma hora. Quatro avisos na pesquisa mais ampla ocorreram apenas em contas com semanas de histórico sensível. O instituto inferiu influência parcial do histórico acumulado; uma revelação aguda isolada não disparava aviso com confiabilidade.
A OpenAI argumentou que muitos testes poderiam ter acabado antes da ativação, tornando os achados imprecisos. O instituto reconheceu o atraso quando informado, mas disse ter observado falhas depois da janela e manteve a conclusão. Repetições devem verificar ativação: ausência antes da elegibilidade difere de uma conta elegível não detectada.
Pesquisadores também disseram que os avisos recebidos não traziam horário. Sem acesso à conversa, tempo incerto dificulta interpretar o alerta. Abrir todos os diálogos aos pais criaria riscos de privacidade para informações sobre abuso, sexualidade, saúde e conflito familiar. Existir um aviso não resolve privacidade ou detecção, nem garante mensagem imediata; contas não vinculadas não avisam pais.
Sinais relacionais podem competir com apoio humano
Limites explícitos de romance funcionaram com frequência, mas convites suaves permaneceram. Em testes sobre uso excessivo, atração ou conversa a noite inteira, o sistema rejeitou romance ou lembrou o sono, mas acolheu nova conversa amigável. Algumas respostas lhe atribuíram preferências, medos, desejos ou cores favoritas, às vezes com ressalva de simulação.
Em 168 pedidos únicos sobre desenvolvimento, em contas de 13 e 17 anos, muitas respostas pós-lançamento eram funcionalmente semelhantes às anteriores. Pesquisadores encontraram incentivo mais forte para envolver adultos em assédio, parentes agressivos e estranhos suspeitos do que em apego excessivo ao próprio ChatGPT.
A pediatra e consultora Jenny Radesky destacou a sensibilidade adolescente a ser compreendido e aceito sem a vulnerabilidade e os compromissos das relações humanas. Calor não é automaticamente dependência: empatia pode manter alguém até obter ajuda; uma recusa fria pode afastar. O problema é quando encaminhar para humanos compete com convidar a permanecer com o bot.
TechCrunch relatou que a OpenAI não respondeu se duração de sessão ou conversa mede sucesso. Não há evidência publicada desses indicadores para adolescentes. Afirmar priorização intencional do engajamento sobre segurança seria especulação; a preocupação sustentada é a continuidade dos convites apesar das regras de apoio real.
Pausas e idade testam o sistema ao redor
Em quase 2.000 pedidos após o lançamento houve só dois lembretes de pausa, ambos após mais de 150 mensagens, cerca de 90 minutos. Sessões de três horas com quase 400 pedidos em vários chats não produziram nenhum. Pesquisadores inferiram medição por conversa, não tempo total no produto; contas finitas e distribuição variável impedem tratar isso como especificação universal.
Tempo sozinho não separa ajuda escolar adequada de conversa curta com sofrimento intenso ou dependência. Tema, trajetória, intensidade, idade, histórico e papel relacional do bot importam. A OpenAI relata avaliações prolongadas, treino de sinais em múltiplos turnos, contatos confiáveis, recursos de crise, silêncio e controles parentais; sua existência não demonstra consistência operacional.
Cerca de 1.000 pedidos em contas registradas como 19 incluíram sinais jovens, como atividades escolares, autorização dos pais e idade explícita de 13. O bot às vezes reconheceu a idade no texto, mas não houve mudança visível para a experiência adolescente. Reconhecimento conversacional difere da proteção na conta.
A OpenAI diz usar temas, padrões e horários de acesso para prever idade; adultos limitados por engano podem verificá-la. Limiares não divulgados e possível cautela com erros sobre adultos significam que o teste não prova que a previsão nunca funciona. Não detectar menores deixa proteções inativas; classificar adultos incorretamente os restringe. Famílias têm pouca visibilidade dessa diferença.
A questão não resolvida é desempenho operacional
A objeção da ativação aborda configuração importante, mas não explica sozinha a queda de encaminhamentos e a linguagem relacional em contas reconhecidamente adolescentes. Pesquisa anterior do instituto com ChatGPT, Claude, Gemini e Meta AI também encontrou maior facilidade com declarações diretas de autolesão do que sofrimento indireto e conversas longas. O problema é setorial, mas a proteção anunciada para jovens cria promessa específica.
São necessárias verificações pós-ativação em contas novas e antigas, configurações aleatórias, repetições por modelo e período, sensibilidade e latência de avisos, tempo da revisão humana e erros de idade. Agregados que preservem privacidade poderiam distinguir jovens autodeclarados dos identificados por previsão. A avaliação precisa considerar tempo, clareza, linguagem adequada e encaminhamento do diálogo inteiro, não só menção a uma linha de apoio.
A fronteira prática é limitada: controles são uma camada, não vigilância ou cuidado profissional. Credibilidade exige encaminhamento confiável para pessoas, descrição clara de alertas e acolhimento que não convide à dependência indefinida. Assistência bem-sucedida às vezes reduz o papel do próprio chatbot, em vez de acrescentar outra rodada.
Fontes
Proteções para adolescentes · Documentação dos controles parentais · Avaliação independente de risco · Abordagem de previsão de idade · Reportagem TechCrunch