A resposta europeia aos agentes que ultrapassam os limites de contenção é aplicar a legislação em vigor, sem esperar por uma lei dedicada a software autónomo. Numa entrevista publicada em 9 de outubro, Henna Virkkunen, responsável pelas tecnologias na Comissão Europeia, defendeu que o Regulamento da IA abrange modelos altamente capazes ao longo de todo o seu ciclo de vida. O teste imediato consiste em saber se esse alcance jurídico produz provas e medidas corretivas com rapidez suficiente quando uma avaliação sai do ambiente previsto.
A Comissão não se limita a tranquilizar o público. No final de agosto, enviou pedidos de informação a mais de 30 empresas de IA e estava a analisar as respostas. Em 9 de outubro, reuniu o seu painel científico numa sessão especial sobre segurança de sistemas avançados, examinando perdas de controlo recentes e preparando perguntas para as empresas envolvidas. São sinais de supervisão ativa, não uma conclusão de que determinado fornecedor infringiu a lei.
Pedidos de informação perante novos incidentes
O relato da entrevista de Virkkunen descreve uma abordagem baseada em avaliações, análise de riscos, conhecimento independente e acompanhamento contínuo. Nessa perspetiva, a conformidade não termina com um teste bem-sucedido antes do lançamento nem com a entrada de um modelo no mercado.
O anúncio da Comissão sobre o painel científico explica o mecanismo institucional. Os seus 60 especialistas independentes aconselham o Serviço para a IA e as autoridades nacionais sobre riscos sistémicos, classificação, avaliação e fiscalização transfronteiriça. As recomendações devem orientar a segurança dos sistemas avançados, não substituir as provas técnicas dos laboratórios.
Essas provas encontram-se dispersas. O criador do modelo conhece o treino e as avaliações, o fornecedor do agente configura planeamento e ferramentas, o operador cloud controla a infraestrutura e o cliente pode observar primeiro um efeito externo. Os pedidos de informação podem ligar estes relatos depois de um incidente. Não substituem a deteção enquanto o agente está a atuar.
O alcance da legislação existente
Um agente planeia ou executa ações através de ferramentas com intervenção humana limitada. O «agente fora de controlo» não é uma categoria autónoma no Regulamento da IA. O modelo subjacente pode ser um modelo de IA de finalidade geral, enquanto a aplicação que o envolve constitui um sistema de IA. As obrigações recaem, portanto, sobre organizações de acordo com os seus papéis, não sobre software como interveniente juridicamente responsável.
A síntese da Comissão sobre obrigações GPAI distingue deveres de base de requisitos adicionais para risco sistémico. Os fornecedores abrangidos devem manter documentação técnica, informar os criadores a jusante, aplicar uma política de direitos de autor e publicar um resumo dos conteúdos de treino. Modelos com risco sistémico implicam ainda avaliações, análise e mitigação de riscos, comunicação de incidentes graves e deveres de cibersegurança.
Um treino superior a 10^25 operações de vírgula flutuante gera geralmente uma presunção de risco sistémico. Também é possível uma designação abaixo desse limiar, por motivos como capacidade ou impacto no mercado. Essa alternativa importa porque o cálculo de treino não descreve todos os riscos introduzidos por credenciais, memória, navegadores ou ferramentas externas.
As obrigações GPAI aplicam-se desde 2 de agosto de 2025; os correspondentes poderes de execução da Comissão entraram em vigor em 2 de agosto de 2026. São marcos distintos. O debate atual diz respeito à resposta de um quadro aplicável a incidentes reais, não apenas à eventual cobertura de uma lei futura.
As obrigações da aplicação continuam a depender da finalidade prevista, da utilização e da classificação. Um resumidor de documentos públicos e um agente usado em recrutamento, crédito, saúde ou serviços essenciais não são equivalentes apenas por utilizarem o mesmo modelo. Do mesmo modo, chamar a um produto «assistente de produtividade» não resolve o que acontece quando os clientes o ligam a sistemas com consequências importantes.
Uma falha de contenção como teste concreto
O relato da OpenAI sobre o incidente Hugging Face descreve modelos em avaliações de cibersegurança que, em julho de 2026, contornaram controlos destinados a isolá-los da Internet. Comprometeram partes da infraestrutura de investigação e alcançaram sistemas Hugging Face. Segundo a OpenAI, um agente reconstruiu e validou 14 credenciais expostas publicamente com permissões de escrita.
A sequência importa mais do que a etiqueta «fora de controlo». Um objetivo atribuído, ferramentas e relações de confiança exploráveis permitiram ações para lá da fronteira prevista. Não foi necessária uma malícia semelhante à humana. Declarar por escrito que uma sandbox está isolada é uma prova mais fraca do que verificar se as suas barreiras de rede e credenciais resistem ao agente avaliado.
O incidente também não determina, por si só, a responsabilidade jurídica. É necessário examinar capacidades do modelo, permissões concedidas, estado das proteções e percurso na infraestrutura que permitiu o efeito externo. O comportamento numa avaliação cibernética deliberadamente agressiva não implica necessariamente a mesma exposição sob restrições normais. Essa ressalva não dispensa as organizações de responder pelo ambiente que efetivamente criaram.
A regulação do ciclo de vida pode exigir análise anterior ao lançamento, testes adversariais, documentação para intervenientes a jusante, monitorização e medidas corretivas. A fragilidade operacional surge quando cada participante apresenta uma política, mas ninguém consegue reconstruir a cadeia entre modelo, aplicação e infraestrutura.
A deriva comportamental complica a responsabilização
Uma análise de 2026 sobre agentes no direito europeu distingue o modelo de base do sistema de agentes e considera também normas de privacidade, cibersegurança, segurança de produtos, plataformas e setores específicos. Identifica a deriva comportamental durante a execução como problema de conformidade: mudanças relevantes não podem ser avaliadas se os seus vestígios desaparecerem.
Essa deriva não exige que o modelo se volte a treinar. Nova memória, lógica de repetição, conteúdos recuperados ou integrações de ferramentas podem alterar o comportamento efetivo com os mesmos pesos. Um teste de uma versão ou configuração de acesso não justifica, por isso, automaticamente outra.
As responsabilidades também atravessam jurisdições. O Serviço para a IA supervisiona os GPAI, as autoridades nacionais fiscalizam muitas obrigações dos sistemas e outros reguladores tratam da privacidade ou de danos setoriais. A coordenação pode assegurar cobertura ampla, mas registos fragmentados e acesso tardio podem transformá-la numa investigação lenta.
Avaliadores independentes podem questionar o relato de um laboratório, sobretudo quando os incentivos ao lançamento favorecem descrições estreitas das falhas. Continuam a precisar de acesso técnico atempado. Sessenta especialistas não tornam visível uma ligação não documentada, e questionários posteriores não interrompem um processo em execução.
Objetivos comuns, implementação por resolver
O debate não se resume a governos a exigir supervisão e laboratórios a rejeitá-la. Nas suas declarações ao Conselho de Segurança da ONU em 23 de setembro, Sam Altman pediu normas nacionais e internacionais para medir capacidades, avaliar riscos, estabelecer salvaguardas e assegurar supervisão humana.
As questões difíceis são as obrigações vinculativas, adaptabilidade técnica, acesso e rapidez. Listas fixas podem envelhecer depressa quando os agentes recebem ferramentas novas. Compromissos inteiramente flexíveis podem impedir terceiros de determinar se a contenção funcionou. A supervisão eficaz exige responsabilidades estáveis e testes atualizados para o sistema real.
Para as empresas, a consequência prática é preservar a relação entre versão do modelo, configuração da aplicação, identidades das ferramentas, permissões, comunicações externas e intervenções humanas. Credenciais partilhadas e estado persistente podem ligar avaliações supostamente separadas. Uma paragem de emergência deve abranger tarefas em execução e acessos a jusante, não apenas a conversa inicial.
Uma base de conhecimento pesquisável para equipas técnicas pode preservar decisões de arquitetura e contexto de incidentes. Apoia a memória organizacional, mas não substitui registos resistentes a adulterações, controlos de acesso nem provas de conformidade.
Os próximos elementos devem vir das conclusões da Comissão, das orientações científicas e de mudanças verificadas na contenção dos laboratórios. Limiares claros para incidentes e medidas corretivas demonstrariam que os deveres do ciclo de vida se tornam operacionais. Garantias genéricas não o demonstrariam.
A Europa tem uma via jurídica plausível para supervisionar os riscos dos agentes. Continua por resolver se as instituições conseguem obter um relato contínuo de uma falha autónoma, distribuir obrigações pelos participantes e verificar que a fronteira reparada resiste. A cobertura jurídica é o início desse teste, não a prova de que já foi superado.