학교는 학생 대상 AI를 어떻게 거버넌스할 수 있는가

생성형 AI는 전용 챗봇, 글쓰기 보조 도구, 검색 기능 또는 교사가 이미 사용하는 소프트웨어의 업데이트를 통해 학교에 들어올 수 있습니다. 그래서 하나의 허용 또는 차단 결정은 지나치게 거칩니다. 학교에는 연령, 교육 목적, 데이터 관행, 성인의 감독, 각 사용을 뒷받침하는 증거의 강도를 구분하는 거버넌스 체계가 필요합니다.

목표는 모든 AI 제품이 학습을 돕거나 해칠지를 예측하는 것이 아닙니다. 접근을 조건부이고, 관찰 가능하며, 되돌릴 수 있게 만드는 것입니다. 뉴욕시의 AI 지침은 이 접근의 한 형태를 보여 줍니다. 더 어린 학생과 고등학생을 구분하고, 정의된 예외를 보존하며, 교육자 사용을 허용하고, 학생의 직접 시범 운영을 제한합니다. 로스앤젤레스 통합교육구의 교육구 공지는 다른 연령 기준을 사용하면서도 학생 접근을 승인된 시스템으로 제한합니다. 오래 지속되는 교훈은 거버넌스가 보편적이 아니라 계층적이어야 한다는 것입니다.

도구를 선택하기 전에 결과 정의하기

학교가 보호하려는 학습 조건에서 시작하세요. 어린 학생은 대화, 신체 활동, 실수, 수정, 성인과 또래의 피드백을 통해 기초 기술을 쌓습니다. 자동화된 지원은 과제를 도울 수 있지만, 학생이 과제가 끌어내도록 설계된 추론을 하기 전에 답을 주거나 다시 써 줄 수도 있습니다. 더 나이 많은 학생에게 준비란 생성된 주장을 의심하고, 편향과 잘못된 정보를 알아보며, 개인정보를 보호하고, 언제 인간의 판단이 필요한지 결정하는 법을 배우는 것도 포함합니다.

그 목표를 정책 질문으로 바꾸세요. 학생은 도구 없이 무엇을 설명할 수 있어야 하는가? 생산적인 어려움의 어떤 형태가 수업의 일부인가? 절대 입력해서는 안 되는 정보는 무엇인가? 어떤 사용에는 교육자가 상호작용을 지켜봐야 하는가? 어떤 결과가 제품을 계속 유지할 근거가 되는가? 도구가 설계대로 작동하거나 유창한 답변을 낸다는 이유만으로 승인해서는 안 됩니다. 도구가 주장하는 교육 목적은 평가할 수 있을 만큼 명시적이어야 합니다.

이 결과 우선 접근은 AI 리터러시가 프롬프트 연습으로 축소되는 것도 막습니다. 운영 기술은 중요하지만, 리터러시에는 한계를 이해하고, 증거를 확인하며, 과도한 의존을 거부하는 일이 포함됩니다. 학교는 일부 연령의 직접 사용을 제한하더라도 그러한 습관을 가르칠 수 있습니다.

연령대별 접근 모델 만들기

연령대는 명확한 기본값을 만들면서 좁게 정의된 예외의 여지를 남깁니다. 실용적인 모델에는 세 단계가 있습니다.

유아 및 초등 시기: 생성 시스템과의 일상적인 직접 상호작용을 기본적으로 허용하지 않습니다. 교사 주도 학습, 대면 상호작용, 기초 읽기, 쓰기, 수학 및 사회성 발달을 우선합니다. NYC 정책은 어린 학생에 대한 제한을 개인 화면 시간의 더 넓은 제한과도 연결하여, AI 접근이 학습 환경에 관한 더 큰 결정 안에 있음을 강화합니다.

중학교 시기: 제한적인 기본값을 유지하되, 개방 접근을 전제하지 않고 AI 리터러시를 도입합니다. 학생은 독립 계정을 유지하거나 시스템과 무제한 대화를 하지 않아도 교사가 선택한 예를 검토하고, 근거 없는 출력을 토론하며, 개인정보 규칙을 배울 수 있습니다. 이 단계에서 직접 사용을 허용하는 교육구는 승인된 도구, 구체적인 학습 목표 및 적극적인 감독을 요구해야 합니다.

고등학교: 정해진 교과 과정, 시범 운영 또는 진로 프로그램에 통제된 접근을 허용합니다. NYC의 정책 발표는 일반적 접근이 아니라 보편적 리터러시 모듈을 제한된 교사 감독 시범 운영과 결합합니다. 학교는 정확한 수치를 복사하지 않고도 이 원칙을 따를 수 있습니다. 제한된 참여, 훈련받은 교육자, 시간 제한 및 명시된 평가 계획으로 시작하세요.

연령 규칙이 필수 지원을 취소해서는 안 됩니다. NYC는 개별화 교육 프로그램 또는 504 계획에 명시된 보조 기술을 유지하고 언어 접근의 여지도 둡니다. 학교는 접근성이 비공식적인 우회책으로 취급되지 않도록 그러한 예외를 별도로 기록해야 합니다.

제품 범주가 아니라 사용을 승인하기

“AI 튜터” 같은 제품 수준의 라벨은 너무 적은 것을 알려 줍니다. 같은 시스템도 힌트를 제공하거나, 에세이를 작성하거나, 지시를 번역하거나, 직장 대화를 시뮬레이션하는 데 사용될 수 있습니다. 승인은 도구, 사용자 집단, 과목, 과제 및 감독 수준의 구체적인 조합에 연결되어야 합니다.

승인된 사용 기록에는 이렇게 적을 수 있습니다. “10학년 진로 수업, 구조화된 면접 시뮬레이션, 교육구 계정, 교육자 동석, 프롬프트에 개인정보 없음, 30분 세션, 출력은 수업에서 논의.” 이는 집행할 수 있습니다. “학습을 위해 AI가 허용됨”은 그렇지 않습니다.

유용한 범주에는 교사 시연, 생성 자료에 대한 학생 비평, 제약된 연습, 접근성 지원, 코딩 또는 로보틱스, 시뮬레이션 및 교사 준비가 포함됩니다. 각각은 고유한 경계를 요구합니다. NYC는 직접 생성형 상호작용을 평가, 원격 수업, 코딩, 로보틱스, 시뮬레이션, 승인된 자료 및 교육자 계획과 구분합니다. 또한 모든 학년에서 동반자 챗봇을 금지하는데, 이는 학교가 모든 대화형 제품에 교육적 가치가 있다고 가정하지 말고 상호작용 패턴을 평가해야 하는 이유를 보여 줍니다.

교육자 사용에도 규칙이 필요합니다. 교사는 AI로 워크시트, 예시 또는 피드백 제안을 초안으로 만들 수 있지만, 학생에게 전달되는 내용에 대한 책임은 유지합니다. 생성 자료는 사실 오류, 고정관념, 부적절한 설명 및 수업과의 정렬 여부를 확인해야 합니다. 도구를 학생 화면에서 교사의 작업 흐름으로 옮긴다고 검토의 필요가 사라지지 않습니다.

개인정보를 조달 관문으로 만들기

학생 프롬프트에는 글쓰기 표본, 행동 신호 또는 개인 식별 정보가 포함될 수 있습니다. 승인 전에 학교는 공급업체가 무엇을 수집하는지, 어디로 가는지, 얼마나 오래 남는지, 누가 접근할 수 있는지, 훈련이나 제품 개선에 사용되는지, 삭제가 어떻게 작동하는지를 알아야 합니다. 뉴욕 교육법 Section 2-d는 학생 정보를 다루는 학교와 제3자 계약자에게 적용될 수 있는 개인정보 및 보안 의무의 구체적인 예를 제공합니다.

후속 제품 업데이트를 통해 제공되는 기능을 포함하여 공급업체에 생성형 기능 공개를 요구하세요. 계약 문구는 데이터 보존, 2차 사용, 보안 기준, 접근 통제, 사고 대응 및 학교의 기능 비활성화 능력을 다뤄야 합니다. 소비자 계정보다 교육구 관리 계정과 구성을 선호하세요. 사용 로그와 교사 통제는 제공되어야 하지만, 학생 모니터링이 불필요한 데이터의 새 원천이 되어서는 안 됩니다.

개인정보 검토는 필요하지만 충분하지 않습니다. 제품은 데이터 규칙을 준수하면서도 수업이 기르려는 추론을 대체할 수 있습니다. 따라서 조달에는 허용 가능한 데이터 관행과 신뢰할 만한 교육 가치라는 두 독립 관문이 필요합니다. 어느 관문에서든 실패하면 도입을 중단해야 합니다.

교육자가 운영 통제권을 유지하게 하기

“Human in the loop”는 교육자가 상호작용을 보고, 제한하고, 멈출 수 있을 때만 의미가 있습니다. 교사는 어떤 도구가 승인되었는지, 허용된 활동, 데이터 제한 및 지원이 학습을 대체하고 있다는 징후를 알아야 합니다. 교육에는 생성 자료를 검증하는 방법과 학생이 외부 시스템을 사용할 때 대응하는 방법이 포함되어야 합니다.

과제 설계는 집행의 일부입니다. 초안, 교실 토론, 구두 설명, 출처 변호 및 관찰된 문제 해결은 완성도 높은 제출물 하나만 보는 것보다 학생의 추론을 더 직접적으로 드러냅니다. 이러한 방식은 출처 자료가 거짓 양성을 만들고 원본 글에 의심을 씌울 수 있다고 지적한 AI 탐지 소프트웨어에 의존하지 않고도, 공개되지 않은 사용에 대응할 수 있습니다.

학교는 탈출구도 유지해야 합니다. 출력이 부적절하거나, 학습 목표가 충족되지 않거나, 업데이트 후 도구가 다르게 작동할 때 교육자는 세션을 중지할 수 있어야 합니다. 학생과 가족에게는 우려를 신고할 명확한 채널이 필요하며, 시범 운영 참여에는 시스템이 무엇을 하고 어떤 데이터를 보존하는지 이해하기 쉬운 설명이 따라야 합니다.

주장된 혜택에 연결된 증거 요구하기

참여, 사용 및 만족도는 학습이 개선되었음을 입증하지 않습니다. 평가는 학생이 지식을 유지했는지, 추론을 설명했는지, 기술을 새 과제로 전이했는지, 지원이 제거된 뒤 독립적으로 일했는지를 물어야 합니다. 측정은 도구와 맞아야 합니다. 글쓰기 보조 도구, 수학 튜터, 언어 접근 시스템 및 진로 시뮬레이션은 하나의 유효한 결과를 공유하지 않습니다.

시범 운영이 시작되기 전에 학습 목표, 비교 방법, 개인정보 검사, 편향 검토, 중단 조건 및 결정 날짜를 기록하세요. 적절한 경우 지원이 있는 작업과 없는 작업을 비교하세요. 시스템이 언어, 장애, 인종, 성별 또는 사회경제적 맥락에 따라 다른 가정을 하거나 다른 기회를 제공하는지 검토하세요. 유리한 결론을 억지로 내리지 말고 결론이 나지 않은 결과를 문서화하세요.

1년 정책 주기는 유용한 첫 결정을 뒷받침할 수 있지만, 설정, 교육, 교실 사용, 분석 및 공개 숙의가 모두 그 기간을 소비합니다. 초기 결과는 제한된 증거로 다루세요. 확대는 점진적이어야 하며, 증거가 약할 때 중단 또는 철회는 계속 가능해야 합니다.

정책을 살아 있는 목록으로 집행하기

차단 목록으로는 검색, 오피스 소프트웨어, 학습 플랫폼, 브라우저 확장 프로그램 및 제품 업데이트에 내장된 기능을 관리할 수 없습니다. 제품 소유자, 승인된 사용, 연령대, 현재 구성, 계약 조건, 검토 날짜 및 기능 이력을 명시하는 목록을 유지하세요. 연간 갱신 때만이 아니라 중요한 업데이트 후 도구를 다시 확인하세요.

관리 기기의 기술적 통제는 정책을 뒷받침해야 하지만, 개인 전화, 가정 네트워크 또는 다른 서비스에서 복사한 텍스트를 통제할 수는 없습니다. 기기 설정을 명확한 교실 기대, 추론 중심 평가, 가족 소통 및 공개되지 않은 사용에 대한 일관된 대응과 결합하세요. 목표는 책임 있는 학습이지 모든 접근을 없앨 수 있다는 비현실적 주장이 아닙니다.

집행에는 소유권도 필요합니다. 제품 목록, 개인정보 검토, 교육과정 검토, 기술적 통제, 교육자 훈련, 사고 처리 및 시범 운영 평가에 책임을 할당하세요. NYC가 계획한 Technology in Schools Coalition처럼, 기능 간 집단에는 학생, 교육자, 가족, 옹호자, 노동조합 대표, 관리자 및 관련 전문가가 포함될 수 있습니다. 그 결정은 최종 투표만이 아니라 증거와 해결되지 않은 이견을 기록해야 합니다.

구현 체크리스트

학생 대상 AI 사용을 승인하거나 갱신하기 전에, 학교가 각 항목에 답할 수 있는지 확인하세요.

• 목적: 학습 목표가 구체적이며, 활동이 학생이 연습해야 할 추론을 보존하는가?
• 연령: 접근 수준이 학생 집단에 적절하며, 접근성 및 언어 지원 예외가 기록되어 있는가?
• 범위: 도구, 과목, 과제, 기간, 계정 유형 및 감독 수준이 명시되어 있는가?
• 개인정보: 수집, 보존, 접근, 훈련 사용, 삭제, 보안 및 사고 절차를 이해하고 계약으로 다루었는가?
• 통제: 교육자가 출력을 검사하고, 사용을 제한하고, 기능을 비활성화하고, 활동을 멈출 수 있는가?
• 증거: 학습 측정, 비교 방법, 편향 검사, 중단 규칙 및 검토 날짜가 시작 전에 정의되어 있는가?
• 집행: 관리 기기 통제, 외부 사용 기대, 과제 관행, 가족 소통 및 신고 채널이 정렬되어 있는가?
• 목록: 책임 있는 소유자, 업데이트 모니터링 절차 및 승인된 구성의 기록이 있는가?
• 결정: 검토가 사용을 확대, 수정, 중단 또는 폐기하는 문서화된 선택으로 끝나는가?

가장 방어 가능한 학교 AI 정책은 무제한 도입도 영구적인 전면 금지도 아닙니다. 그것은 연령별 기본값, 제한된 허가, 개인정보 관문, 교육자 권한, 측정 가능한 결과 및 되돌릴 수 있는 결정의 체계입니다. 이 체계는 기초 학습을 보호하면서, 더 나이 많은 학생에게 학교 밖에서 마주할 도구에 대한 판단력을 기를 구조화된 기회를 제공할 수 있습니다.