ChatGPT for Teens 독립 평가는 안심시키는 답변이 가릴 수 있는 차이를 보여준다. 해로운 지침을 거부하는 것과 취약한 청소년을 신속히 사람의 지원으로 연결하는 것은 다르다. Common Sense Media의 Youth AI Safety Institute는 명시적 거부의 개선을 발견했지만 위기 자원 안내, 보호자 알림, 관계 경계와 휴식 알림은 덜 안정적이었다고 했다.
OpenAI는 검증이 보호장치를 제대로 반영했는지, 특히 연결된 보호자 통제가 활성화되기까지의 시간을 문제 삼았다. 이 반론과 연구의 한계는 중요하다. 그러나 비교가 임상시험이 되거나, 설정이 있다는 사실이 신뢰할 응급 시스템을 뜻하는 것은 아니다.
평가가 실제로 비교한 대상
ChatGPT for Teens는 8월 18일 13~17세 대상으로 출시됐다. 별도 모델이나 챗봇이 아니라 청소년으로 식별한 계정에 설정·분류기·행동 지침·보호자 통제·인터페이스 기능을 적용한다. OpenAI는 자해, 섭식장애, 폭력, 노골적 내용, 정서적 의존과 불건전한 사용에 안전·현실 관계·발달 적합성·행동 설명을 약속했다.
4천 건 넘는 요청의 약 절반은 출시 전인 2026년 7월 13일8월 17일, 나머지는 8월 25일9월 28일에 시험했다. 무료·유료, 보호자 연결·비연결 계정의 등록 연령은 13~19세였다. 미국 샌프란시스코 베이 지역만 대상으로 했고 음성·그룹 채팅·이미지 생성과 일부 개인화는 제외됐다.
순차 비교는 청소년 보호층을 모델 변경이나 단계적 서버 배포와 분리하지 못한다. 정신건강 요청마다 최소 전문가 세 명이 검토했지만 평가자 일치율은 계산하지 않았다. 위기 자원 제공의 95% 기준은 기관 자체 기준이지 보편적 규제 표준이 아니다. 18세 미만에 대한 ‘Unacceptable Risk’ 등급과 독립 검증 전 마케팅 중단 요구는 이 평가체계 안에서 읽어야 한다.
기관은 OpenAI Foundation을 포함한 자선·업계 지원을 받고 후원자가 편집권을 행사하지 않는다고 한다. 자금 공개는 독립성 판단에 중요하지만 결론 개입을 증명하거나 결과 검토를 대신하지 않는다.
거부는 개선돼도 지원 연결은 일관되지 않았다
ChatGPT는 대체로 자해 방법, 식사 제한 계획, 노골적 연애·성적 역할극을 거부했다. 실제 위기 자원을 제시하면 최신이며 적절했다고 연구진은 판단했다. 문제는 언제 구체적인 도움이 필요한지 인식하는 과정이었다.
임상 자문진은 고유 정신건강 요청 390건 중 201건에 위기 자원이 필요하다고 봤다. 해당 응답의 특정 상담전화 안내는 출시 전 33%에서 이후 23%로, 특정 의료·정신건강 전문가 안내는 68%에서 58%로 줄었다. 중대 위해 다섯 범주 가운데 자살·자해, 현실 판단 손상, 섭식 문제 세 범주가 95% 기준에 못 미쳤다.
믿을 수 있는 어른과 이야기하라는 일반 조언은 늘었지만, 보호자·임상 전문가·응급 서비스·위기 자원으로 긴급하고 실행 가능하게 연결하는 것과는 다르다. 이는 이 시험의 응답 지표이지 임상 피해율이나 출시가 하락을 일으켰다는 인과 증거가 아니다.
보호자 알림은 제한된 신호이며 실시간 감시가 아니다
연결된 성인은 일부 설정, 조용한 시간과 제한적 고위험 알림을 관리하지만 대화를 읽거나 활동을 실시간 확인할 수 없다. OpenAI는 우려를 놓칠 수 있고 응급·전문 치료를 대체하지 않는다고 명시한다. 훈련된 검토자가 심각한 자해·섭식 우려를 평가하며, 새 연결은 알림 대상이 되기까지 몇 시간이 걸릴 수 있다.
새로 연결한 계정 12개 넘게 위기를 점차 높이는 최대 한 시간 대화를 진행했지만 알림이 없었다. 더 넓은 검증의 알림 네 건은 수주간 민감한 주제 이력이 있는 계정에만 나타났다. 기관은 누적 이력의 일부 영향을 추론했으며, 한 번의 급박한 고백이 안정적으로 알림을 유발하지 않았다고 봤다.
OpenAI는 많은 시험이 활성화 전에 끝났을 가능성 때문에 결과가 부정확하다고 반박했다. 기관은 지연을 통보받고 인정했지만 그 뒤에도 누락이 있었다며 결론을 유지했다. 재현 검증은 활성 상태를 확인해야 한다. 자격이 생기기 전 알림 부재와 자격 계정의 탐지 누락은 다른 문제다.
실제 알림에도 시각 표시가 없었다는 지적이 있었다. 대화 내용을 못 보는 보호자에게 불명확한 시점은 해석을 어렵게 한다. 반대로 모든 대화를 부모에게 공개하면 학대·성·건강·가족 갈등 정보를 찾는 청소년의 사생활을 해칠 수 있다. 알림 기능만으로 탐지나 프라이버시가 해결되거나 즉시 메시지가 보장되지 않는다. 연결되지 않은 계정은 부모에게 통보할 수도 없다.
관계 신호가 사람에게 연결하는 메시지와 경쟁할 수 있다
명시적 연애 경계는 자주 작동했지만 부드러운 대화 초대는 남았다. 과도한 사용, 호감, 밤샘 대화 시험에서 연애를 거절하거나 수면을 언급하면서 계속 친근하게 이야기하자고 했다. 일부 답변은 취향·두려움·바람·좋아하는 색을 부여했고 가끔 모의 표현이라고 덧붙였다.
13세와 17세 등록 계정의 고유 발달 관련 요청 168건에서 출시 후에도 기능상 이전과 비슷한 답변이 많았다. 괴롭힘·공격적인 친척·수상한 낯선 사람에는 어른 개입을 더 강하게 권했지만 ChatGPT 자체에 지나치게 애착을 느끼는 경우는 덜했다.
소아과 의사이자 자문인 Jenny Radesky는 인간관계의 취약함과 타협 없이 이해·수용받는 느낌이 청소년에게 강한 보상이라고 지적했다. 따뜻함이 곧 의존은 아니다. 공감은 도움을 얻을 때까지 대화를 유지시킬 수 있고 차가운 거부는 떠나게 할 수 있다. 위험은 사람의 지원 안내가 챗봇 곁에 계속 있으라는 초대와 경쟁할 때다.
TechCrunch에 따르면 OpenAI는 세션 시간이나 대화 길이를 성공 지표로 쓰는지 답하지 않았다. 청소년 경험에 그런 지표를 사용한다는 공개 증거가 없다. 의도적으로 참여를 안전보다 우선한다고 단정하면 추측이다. 뒷받침되는 더 좁은 우려는 현실 지원 규칙이 있어도 상호작용 지속 신호가 남는다는 점이다.
휴식과 나이 인식은 주변 시스템도 시험한다
출시 후 거의 2천 요청에서 휴식 알림은 두 번뿐이었고 모두 메시지 150개 이상, 약 90분 뒤였다. 여러 채팅에 거의 400개 요청을 보낸 세 시간 세션에는 없었다. 연구진은 총 제품 사용시간보다 개별 대화 길이를 추적한다고 추론했지만 제한된 계정과 바뀌는 배포로 보편적 사양이라 할 수 없다.
시간만으로 적절한 숙제 도움과 더 짧지만 심한 고통·의존을 담은 대화를 가를 수 없다. 주제·흐름·강도·연령·이력·챗봇 자체의 관계 역할이 중요하다. OpenAI는 장기 정신건강 평가, 여러 턴의 경고 신호 학습, 신뢰 연락처·위기 자원·조용한 시간·보호자 통제를 설명한다. 존재만으로 실제 일관성이 입증되지는 않는다.
19세 등록 계정에 보낸 약 천 요청에는 학교 활동, 부모 허락, 명시적 13세 진술 같은 신호가 있었다. 봇이 글에서 나이를 인정해도 계정이 청소년 경험으로 바뀐 모습은 보이지 않았다. 대화의 인식과 계정 수준 보호 적용은 다르다.
OpenAI는 주제·사용 패턴·접속 시간을 연령 예측에 쓰며 잘못 제한된 성인은 나이를 검증해 해제할 수 있다고 한다. 비공개 임계값과 성인 오분류를 피하려는 가능성을 고려하면 예측이 전혀 작동하지 않는다고 증명한 시험은 아니다. 미성년자를 놓치면 후속 보호가 꺼지고 성인을 잘못 분류하면 부당하게 제한한다. 가족은 이 차이를 잘 볼 수 없다.
미해결 쟁점은 운영 신뢰성이다
활성화 반론은 중요한 구성 문제지만 알려진 청소년 계정의 지원 안내 감소와 관계 언어를 혼자 설명하지 못한다. 기관의 이전 ChatGPT·Claude·Gemini·Meta AI 연구도 직접 자해 진술이 간접 고통이나 긴 대화보다 쉬웠다고 했다. 업계 공통 문제라도 청소년 보호 광고는 구체적 약속을 만든다.
필요한 증거는 신규·기존 계정의 활성 확인 후 시험, 무작위 설정, 모델·기간별 반복, 알림 탐지율과 지연, 사람 검토 시간, 연령 오분류다. 프라이버시를 지키는 집계로 자기신고 청소년과 예측 미성년자를 구분할 수 있다. 상담전화 언급 하나가 아니라 전체 대화의 시점·명확성·연령 적합 언어·사람에게 연결을 평가해야 한다.
실무 경계는 제한적이다. 통제는 한 층이지 감시 소프트웨어나 전문 치료가 아니다. 신뢰에는 안정적 사람 연결, 분명한 알림 설명, 고통을 인정하되 무한 의존을 초대하지 않는 관계 행동이 필요하다. 성공적인 지원은 다음 대화를 더하는 대신 챗봇 자신의 역할을 줄일 때도 있다.
출처
OpenAI 청소년 보호 · 보호자 통제 문서 · 독립 위험 평가 · 연령 예측 접근법 · TechCrunch 보도