Como as escolas podem governar a IA voltada aos estudantes

A IA generativa pode entrar em uma escola por meio de um chatbot dedicado, um assistente de escrita, um recurso de busca ou uma atualização de um software que os professores já usam. Isso torna uma decisão única de permitir ou bloquear simplista demais. As escolas precisam de um sistema de governança que diferencie idades, finalidades educacionais, práticas de dados, supervisão adulta e a força das evidências por trás de cada uso.

O objetivo não é prever se todo produto de IA ajudará ou prejudicará a aprendizagem. É tornar o acesso condicional, observável e reversível. A orientação sobre IA da cidade de Nova York ilustra uma versão dessa abordagem: ela separa estudantes mais jovens dos estudantes do ensino médio, preserva exceções definidas, permite usos por educadores e limita pilotos diretos com estudantes. O boletim distrital do Distrito Escolar Unificado de Los Angeles usa outro limite etário e também restringe o acesso estudantil a sistemas autorizados. A lição duradoura é que a governança deve ser em camadas, e não universal.

Defina os resultados antes de escolher as ferramentas

Comece pelas condições de aprendizagem que a escola quer proteger. Estudantes mais jovens desenvolvem competências fundamentais por meio de conversa, atividade física, erros, revisão e feedback de adultos e colegas. A assistência automatizada pode apoiar uma tarefa, mas também pode fornecer uma resposta ou reescrever algo antes de o estudante realizar o raciocínio que a atividade foi concebida para provocar. Para estudantes mais velhos, a preparação também inclui aprender a questionar alegações geradas, reconhecer vieses e desinformação, proteger informações pessoais e decidir quando o julgamento humano é necessário.

Transforme essas metas em perguntas de política. O que o estudante deve conseguir explicar sem a ferramenta? Quais formas de esforço produtivo fazem parte da aula? Que informações nunca podem ser inseridas? Quais usos exigem que um educador acompanhe a interação? Que resultado justificaria manter o produto? Uma ferramenta não deve ser aprovada apenas porque funciona como projetada ou produz respostas fluentes. Sua finalidade educacional alegada precisa ser explícita o bastante para ser avaliada.

Essa abordagem que prioriza resultados também evita que a alfabetização em IA se reduza à prática de prompts. A habilidade operacional importa, mas alfabetização inclui entender limitações, verificar evidências e resistir à dependência excessiva. Uma escola pode ensinar esses hábitos mesmo quando restringe o uso direto em algumas idades.

Crie um modelo de acesso por faixas etárias

As faixas etárias criam um padrão claro e deixam espaço para exceções estritamente definidas. Um modelo prático tem três níveis.

Primeiros anos e ensino fundamental: Adote como padrão a ausência de interação direta rotineira com sistemas generativos. Priorize a aprendizagem conduzida pelo professor, a interação presencial e o desenvolvimento fundamental de leitura, escrita, matemática e socialização. A política de NYC também relaciona suas restrições para estudantes mais jovens a limites mais amplos de tempo individual de tela, reforçando que o acesso à IA faz parte de uma decisão maior sobre o ambiente de aprendizagem.

Anos intermediários: Mantenha o padrão restritivo, mas introduza a alfabetização em IA sem pressupor acesso aberto. Os estudantes podem examinar exemplos selecionados pelo professor, discutir resultados sem respaldo e aprender regras de privacidade sem manter contas independentes ou conversar sem restrições com um sistema. Distritos que permitam uso direto nessa etapa devem exigir uma ferramenta aprovada, um objetivo de aprendizagem específico e supervisão ativa.

Ensino médio: Permita acesso controlado para disciplinas definidas, pilotos ou programas de carreira. O anúncio de política de NYC combina módulos universais de alfabetização com pilotos limitados e supervisionados por professores, em vez de acesso geral. Uma escola pode seguir o princípio sem copiar os números exatos: comece com participação delimitada, educadores capacitados, um limite de tempo e um plano de avaliação declarado.

As regras de idade não devem cancelar o apoio obrigatório. NYC preserva a tecnologia assistiva especificada por um Programa Educacional Individualizado ou Plano 504 e abre espaço para acesso linguístico. As escolas devem documentar essas exceções separadamente para que a acessibilidade não seja tratada como uma solução informal.

Aprove usos, não categorias de produtos

Um rótulo no nível do produto, como “tutor de IA”, revela pouco demais. O mesmo sistema pode ser usado para dar uma dica, redigir uma redação, traduzir instruções ou simular uma conversa no local de trabalho. A aprovação deve estar vinculada a uma combinação específica de ferramenta, grupo de usuários, disciplina, tarefa e nível de supervisão.

Um registro de uso aprovado pode declarar: “Turma de carreira do 10.º ano; simulação estruturada de entrevista; conta do distrito; educador presente; nenhuma informação pessoal nos prompts; sessão de 30 minutos; resultado discutido em aula.” Isso é aplicável. “A IA é permitida para aprender” não é.

Categorias úteis incluem demonstração pelo professor, crítica estudantil de material gerado, prática restrita, apoio à acessibilidade, programação ou robótica, simulação e preparação de professores. Cada uma exige seu próprio limite. NYC diferencia interação generativa direta de avaliações, ensino remoto, programação, robótica, simulações, materiais aprovados e planejamento de educadores. Também proíbe chatbots de companhia em todas as séries, mostrando por que uma escola deve avaliar o padrão de interação em vez de supor que todo produto conversacional tem valor instrucional.

O uso por educadores também precisa de regras. Um professor pode elaborar uma folha de exercícios, um exemplo ou uma sugestão de feedback com IA, mantendo a responsabilidade pelo que chega aos estudantes. Materiais gerados devem ser verificados quanto a erros factuais, estereótipos, explicações inadequadas e alinhamento com a aula. Transferir a ferramenta da tela do estudante para o fluxo de trabalho do professor não elimina a necessidade de revisão.

Faça da privacidade um critério de contratação

Os prompts dos estudantes podem conter amostras de escrita, sinais comportamentais ou informações pessoalmente identificáveis. Antes da aprovação, a escola deve saber o que o fornecedor coleta, para onde isso vai, por quanto tempo permanece, quem pode acessá-lo, se é usado para treinamento ou melhoria do produto e como funciona a exclusão. A Seção 2-d da Lei de Educação de Nova York oferece um exemplo concreto dos deveres de privacidade e segurança que podem se aplicar a escolas e contratados terceirizados que tratam informações estudantis.

Exija que os fornecedores divulguem recursos generativos, inclusive recursos entregues por atualizações posteriores do produto. A linguagem contratual deve abranger retenção de dados, uso secundário, padrões de segurança, controles de acesso, resposta a incidentes e a capacidade da escola de desativar o recurso. Prefira contas e configurações gerenciadas pelo distrito a contas de consumidores. Registros de uso e controles do professor devem estar disponíveis sem transformar o monitoramento de estudantes em uma nova fonte de dados desnecessários.

A revisão de privacidade é necessária, mas não suficiente. Um produto pode cumprir regras de dados e ainda substituir o raciocínio que uma aula pretende desenvolver. Portanto, a contratação precisa de duas barreiras independentes: prática de dados aceitável e valor instrucional crível. A falha em qualquer uma delas deve interromper a adoção.

Mantenha os educadores no controle operacional

“Humano no circuito” só tem significado quando o educador pode ver, limitar e interromper a interação. Os professores precisam saber qual ferramenta é aprovada, qual atividade é permitida, quais são as restrições de dados e quais sinais indicam que a assistência está substituindo a aprendizagem. A formação deve incluir como verificar material gerado e como responder quando um estudante usa um sistema externo.

O desenho das atividades é parte da aplicação. Rascunhos, discussão em sala, explicação oral, defesa de fontes e resolução observada de problemas revelam o raciocínio do estudante mais diretamente do que uma entrega polida isolada. Essas práticas podem lidar com uso não declarado sem depender de software de detecção de IA, que o material-fonte observa poder produzir falsos positivos e lançar suspeita sobre textos originais.

As escolas também devem manter uma saída de emergência. Um educador deve poder pausar uma sessão quando o resultado for inadequado, o objetivo de aprendizagem não estiver sendo atingido ou a ferramenta se comportar de modo diferente após uma atualização. Estudantes e famílias precisam de um canal claro para relatar preocupações, e a participação em um piloto deve vir com uma explicação compreensível sobre o que o sistema faz e quais dados retém.

Exija evidências ligadas ao benefício alegado

Engajamento, uso e satisfação não comprovam que a aprendizagem melhorou. A avaliação deve perguntar se os estudantes retiveram conhecimento, explicaram seu raciocínio, transferiram uma habilidade para uma nova tarefa e trabalharam de forma independente depois que o apoio foi removido. A medida deve corresponder à ferramenta: um assistente de escrita, tutor de matemática, sistema de acesso linguístico e simulação de carreira não compartilham um único resultado válido.

Antes do início de um piloto, registre o objetivo de aprendizagem, o método de comparação, as verificações de privacidade, a revisão de vieses, as condições de interrupção e a data de decisão. Compare o trabalho com e sem assistência quando apropriado. Analise se o sistema faz pressupostos diferentes ou oferece oportunidades diferentes em contextos de idioma, deficiência, raça, gênero ou condição socioeconômica. Documente conclusões inconclusivas em vez de forçar uma conclusão favorável.

Um ciclo de política de um ano pode sustentar uma primeira decisão útil, mas preparação, formação, uso em sala, análise e deliberação pública consomem todo esse período. Trate as descobertas iniciais como evidências delimitadas. A expansão deve ser incremental, e uma pausa ou retirada deve continuar disponível quando as evidências forem fracas.

Aplique a política como um inventário vivo

Uma lista de bloqueio não consegue governar recursos incorporados em busca, software de escritório, plataformas de aprendizagem, extensões de navegador e atualizações de produto. Mantenha um inventário que nomeie o responsável pelo produto, os usos aprovados, a faixa etária, a configuração atual, os termos contratuais, a data de revisão e o histórico de recursos. Reavalie as ferramentas após atualizações relevantes, e não apenas na renovação anual.

Controles técnicos em dispositivos gerenciados devem apoiar a política, mas não conseguem controlar telefones pessoais, redes domésticas ou texto copiado de outro serviço. Combine configurações de dispositivos com expectativas claras em sala de aula, avaliações centradas no raciocínio, comunicação com as famílias e uma resposta consistente ao uso não declarado. O objetivo é aprendizagem responsável, não a alegação irrealista de que todo acesso pode ser eliminado.

A aplicação também precisa de responsabilidade definida. Atribua responsabilidade pelo inventário de produtos, revisão de privacidade, revisão curricular, controles técnicos, formação de educadores, tratamento de incidentes e avaliação de pilotos. Um grupo multifuncional pode incluir estudantes, educadores, famílias, defensores, representantes sindicais, administradores e especialistas relevantes, como na planejada Coalizão de Tecnologia nas Escolas de NYC. Suas decisões devem registrar evidências e divergências não resolvidas, e não apenas o voto final.

Lista de verificação de implementação

Antes de aprovar ou renovar qualquer uso de IA voltado aos estudantes, confirme que a escola pode responder a cada item:

• Finalidade: O objetivo de aprendizagem é específico, e a atividade preserva o raciocínio que os estudantes precisam praticar?
• Idade: O nível de acesso é apropriado para o grupo de estudantes, com exceções de acessibilidade e apoio linguístico documentadas?
• Escopo: A ferramenta, a disciplina, a tarefa, a duração, o tipo de conta e o nível de supervisão estão nomeados?
• Privacidade: Coleta, retenção, acesso, uso para treinamento, exclusão, segurança e procedimentos de incidente são compreendidos e tratados contratualmente?
• Controle: Um educador pode inspecionar o resultado, limitar o uso, desativar o recurso e interromper a atividade?
• Evidências: As medidas de aprendizagem, os métodos de comparação, as verificações de vieses, as regras de interrupção e uma data de revisão são definidos antes do lançamento?
• Aplicação: Os controles de dispositivos gerenciados, as expectativas sobre uso externo, as práticas de atividades, a comunicação com as famílias e os canais de denúncia estão alinhados?
• Inventário: Há um responsável identificável, um processo de monitoramento de atualizações e um registro da configuração aprovada?
• Decisão: A revisão terminará em uma escolha documentada de expandir, revisar, pausar ou retirar o uso?

A política escolar de IA mais defensável não é nem a adoção irrestrita nem uma proibição geral permanente. É um sistema de padrões baseados em idade, permissões restritas, barreiras de privacidade, autoridade do educador, resultados mensuráveis e decisões reversíveis. Esse sistema pode proteger a aprendizagem fundamental ao mesmo tempo que oferece aos estudantes mais velhos oportunidades estruturadas de desenvolver julgamento sobre ferramentas que encontrarão além da escola.