A equipe Granite da IBM lançou em 12 de novembro duas prévias experimentais do LLMON. Elas abordam uma fragilidade dos prompts de agentes: instruções e dados não confiáveis frequentemente chegam como texto indiferenciado. O artigo de lançamento apresenta modelos derivados dos checkpoints base Granite 4.1 3B e 8B.

LLMON, sigla de LLM Object Notation, acrescenta estrutura e relações explícitas ao contexto do modelo. A equipe relata maior resistência à injeção indireta de prompt, mantendo capacidade geral próxima dos modelos Granite Instruct correspondentes.

A versão é expressamente uma prévia experimental para exploração e avaliação, não para produção. Seu comportamento é aprendido, não imposto, e os resultados de segurança dizem respeito a ataques estáticos.

Blocos semânticos substituem relações implícitas

O contexto de um agente pode conter instruções de sistema, turnos anteriores, documentos recuperados, respostas de ferramentas, requisitos de saída e raciocínio. Texto comum ou JSON podem codificar esses elementos sem tornar suas relações confiáveis para o modelo.

LLMON usa marcadores significativos envolvidos por delimitadores reservados em tokens especiais. Componentes coerentes viram blocos separados com identificadores únicos. Um bloco de execução nomeia a instrução, seus dados de entrada, os requisitos aplicáveis e o destino da saída.

Isso explicita a dependência pretendida. Um documento pode ser material sobre o qual uma instrução atua sem se tornar uma instrução. Turnos ou saídas sem relação podem permanecer no contexto sem vínculo com a tarefa atual.

A crítica ao JSON trata da interpretação pelo modelo, não da correção dos analisadores. Aspas e colchetes podem aparecer como sintaxe ou conteúdo. Um modelo causal precisa aprender estatisticamente essas diferenças e acompanhar aninhamentos ao longo do texto. LLMON separa delimitadores estruturais do vocabulário comum e expressa o aninhamento localmente.

O projeto oferece ferramentas de conversão sem perdas entre JSON e LLMON. Não exige abandonar JSON como formato de intercâmbio das aplicações.

Modelos de chat continuam identificando os interlocutores

LLMON enriquece os templates de chat em vez de substituir seus papéis. Os papéis padrão identificam quem fala; LLMON identifica o significado de cada componente e suas relações.

As prévias incluem template próprio. Aplicações ainda podem criar uma lista messages e chamar apply_chat_template. Componentes nomeados admitem um sinalizador exec: partes ativadas se vinculam ao bloco de execução; partes desativadas permanecem sem referência.

O exemplo do artigo separa uma instrução para escrever sobre a IBM, o nome da empresa como dado e duas restrições de saída. O bloco de execução liga essas peças a um bloco assistant nomeado. Um turno convencional achatado deixaria mais dessas relações para o modelo inferir.

Os identificadores de bloco com dois caracteres vêm de um conjunto específico do tokenizador. Segundo a equipe, endereçar um bloco custa dois tokens, independentemente do identificador. Dados estruturados dentro de um componente também podem se tornar blocos tipados e endereçáveis, em vez de uma cadeia opaca.

Os resultados contra injeção têm limites definidos

A injeção indireta esconde instruções hostis em material que o agente deve ler, como documentos ou respostas de ferramentas. A separação do LLMON busca impedir que esses dados adquiram autoridade de instrução.

A equipe avaliou as prévias no OPI, definindo robustez como um menos a taxa de sucesso do ataque. Afirma que LLMON evitou 47% mais ataques que o melhor modelo de fronteira testado e 95% mais que o melhor modelo de código aberto testado. São comparações relativas dos autores, não ganhos em pontos percentuais nem medições reproduzidas aqui.

O artigo relata tendências semelhantes em ASB e StruQ. É fundamental que esses benchmarks testem injeções indiretas estáticas. A equipe diz ainda trabalhar em ataques adaptativos que se desenrolam por vários turnos.

Uma taxa de sucesso quase nula em alguns benchmarks não demonstra imunidade geral. A publicação descreve a regra de privilégio explicitamente como comportamento aprendido, não uma garantia imposta.

O treinamento ensina a estrutura de dependências

Os modelos partem dos checkpoints base Granite, em vez de acrescentar o formato aos Instruct já lançados. Seis delimitadores são instalados como tokens únicos reservados, e um corpus convencional de instruções é resserializado em componentes endereçáveis e blocos de execução.

O treinamento inclui chat, conversas de vários turnos, geração aumentada por recuperação e chamadas de ferramentas. Também introduz instruções-isca e dados sem vínculo, mantendo a saída-alvo. Ensina a seguir as dependências do bloco, em vez de toda frase que pareça uma instrução.

Os autores descrevem cinco estágios sequenciais de reforço GRPO abrangendo raciocínio multidomínio, feedback humano, calibração de conhecimento e matemática. Um estágio final DPO usa mil pares de preferências on-policy extraídos das respostas do modelo a tentativas de injeção.

Nas categorias usuais de benchmarks, a equipe informa desempenho comparável ao Granite 4.1 Instruct. A comparação vale para essas avaliações, sem demonstrar qualidade inalterada para toda aplicação ou formato.

Vocabulários próprios ainda precisam de avaliação

O exemplo ScienceWorld demonstra marcadores específicos para objetivos, regras de planejamento, estado de salas, inventário e próximas ações. A equipe converteu trajetórias de referência, treinou um adaptador LoRA e avaliou em jogos do simulador reservados para avaliação.

Isso mostra como um vocabulário novo representa planejamento. Um resultado no simulador não prova operação autônoma segura no mundo real.

O repositório LLMON fornece ferramentas e exemplos. O artigo cita suporte nativo no Mellea, capaz de converter suas chamadas ao modelo para esse formato.

A prévia propõe um experimento concreto: explicitar as relações entre instruções e dados e testar se o modelo as segue. Seus limites são igualmente concretos: modelos experimentais, separação aprendida e evidência sobre ataques estáticos, com ataques adaptativos ainda em desenvolvimento.

Fontes

Explorar diretório de ferramentas →