L’équipe Granite d’IBM a publié le 12 novembre deux préversions expérimentales de LLMON. Elles ciblent une faiblesse des prompts d’agents : instructions et données non fiables arrivent souvent comme un texte indifférencié. L’article de lancement présente des modèles dérivés des checkpoints de base Granite 4.1 3B et 8B.

LLMON, pour LLM Object Notation, ajoute une structure et des relations explicites au contexte du modèle. L’équipe annonce une meilleure résistance aux injections indirectes, avec des capacités générales proches des modèles Granite Instruct correspondants.

La version est explicitement une préversion expérimentale d’exploration et d’évaluation, pas de production. Son comportement est appris plutôt qu’imposé, et les résultats de sécurité portent sur des attaques statiques.

Des blocs sémantiques remplacent les relations implicites

Le contexte d’un agent peut contenir instructions système, tours précédents, documents récupérés, réponses d’outils, contraintes de sortie et raisonnement. Du texte ordinaire ou du JSON peut encoder ces éléments sans rendre leurs relations fiables pour un modèle de langage.

LLMON emploie des balises signifiantes entourées de délimiteurs réservés sous forme de tokens spéciaux. Il découpe les composants cohérents en blocs distincts avec des identifiants uniques. Un bloc d’exécution nomme ensuite l’instruction, ses données d’entrée, les exigences applicables et la destination de sortie.

La dépendance voulue devient explicite. Un document peut servir de matière à une instruction sans devenir lui-même une instruction. Des tours ou sorties d’outils sans rapport peuvent rester dans le contexte sans être liés à la tâche actuelle.

La critique du JSON concerne l’interprétation par le modèle, pas la correction des parseurs. Guillemets et crochets peuvent être de la syntaxe ou du contenu. Un modèle causal doit apprendre statistiquement ces différences et suivre l’imbrication sur de longues portions. LLMON sépare les délimiteurs structurels du vocabulaire courant et exprime l’imbrication localement.

Le projet propose des conversions sans perte entre JSON et LLMON. Il n’impose pas d’abandonner JSON comme format d’échange applicatif.

Les modèles de conversation identifient toujours les interlocuteurs

LLMON enrichit les gabarits de conversation plutôt que de remplacer leurs rôles. Les rôles standard indiquent qui parle ; LLMON précise le sens des composants et leurs relations.

Les préversions disposent de leur propre gabarit. Les applications peuvent toujours construire une liste messages et appeler apply_chat_template. Les composants nommés peuvent porter un indicateur exec : les parties activées sont liées au bloc d’exécution, les autres restent présentes sans référence.

L’exemple de l’article sépare une instruction d’écriture sur IBM, le nom de l’entreprise comme donnée et deux contraintes de sortie. Le bloc d’exécution relie ces éléments à un bloc assistant nommé. Un tour conventionnel aplati laisserait davantage de ces relations à inférer.

Les identifiants de blocs à deux caractères proviennent d’un ensemble propre au tokenizer. Selon l’équipe, adresser un bloc coûte deux tokens quel que soit l’identifiant. Les données structurées d’un composant peuvent aussi devenir des blocs typés et adressables, plutôt qu’une chaîne opaque.

Les résultats contre les injections ont une portée définie

Une injection indirecte place des instructions hostiles dans un document ou une réponse d’outil que l’agent doit lire. La séparation de LLMON vise à empêcher ces données d’acquérir une autorité d’instruction.

L’équipe a évalué les préversions sur OPI et définit la robustesse comme un moins le taux de réussite des attaques. Elle affirme que LLMON évite 47 % d’attaques de plus que le meilleur modèle de pointe testé et 95 % de plus que le meilleur modèle open source testé. Ce sont des comparaisons relatives des auteurs, pas des gains en points de pourcentage ni des mesures reproduites ici.

L’article décrit des tendances similaires sur ASB et StruQ. Surtout, ces benchmarks évaluent des injections indirectes statiques. L’équipe dit travailler encore sur les attaques adaptatives qui se déroulent sur plusieurs tours.

Un taux de réussite proche de zéro sur certains benchmarks ne démontre donc pas une immunité générale. La publication décrit explicitement la règle de privilège comme un comportement appris, pas une garantie imposée.

L’entraînement enseigne la structure de dépendance

Les modèles partent des checkpoints de base Granite, au lieu d’ajouter le format aux modèles Instruct publiés. Six délimiteurs deviennent des tokens uniques réservés, et un corpus classique d’instructions est resérialisé en composants adressables et blocs d’exécution.

L’entraînement couvre chat, conversations à plusieurs tours, génération augmentée par recherche et appels d’outils. Il introduit aussi des instructions leurres et des données non liées, sans modifier la sortie cible. Le modèle apprend à suivre les dépendances du bloc d’exécution plutôt que chaque phrase ressemblant à une instruction.

Les auteurs décrivent cinq étapes successives de renforcement GRPO couvrant raisonnement multidomaine, retour humain, calibration des connaissances et mathématiques. Une étape finale DPO utilise mille paires de préférences on-policy issues des réponses du modèle à des tentatives d’injection.

Sur les catégories usuelles de benchmarks, l’équipe rapporte des performances comparables à Granite 4.1 Instruct. Cela concerne les évaluations publiées ; ce n’est pas une preuve de qualité inchangée pour toute application ou tout format.

Les vocabulaires personnalisés restent à évaluer

L’exemple ScienceWorld emploie des balises propres au domaine pour les objectifs, règles de planification, état des pièces, inventaire et prochaines actions. L’équipe a converti des trajectoires de référence, entraîné un adaptateur LoRA puis évalué sur des jeux du simulateur réservés à l’évaluation.

Cela montre comment un vocabulaire peut représenter la planification. Un résultat de simulateur ne prouve pas un fonctionnement autonome sûr dans le monde réel.

Le dépôt LLMON fournit outils et exemples. L’article cite aussi le support natif de Mellea, capable de convertir ses appels aux modèles dans ce format.

La préversion propose une expérience concrète : expliciter les relations entre instructions et données, puis vérifier si le modèle les suit. Ses limites sont tout aussi concrètes : modèles expérimentaux, séparation apprise et preuves sur attaques statiques, avec les attaques adaptatives encore en développement.

Sources

Parcourir l’annuaire des outils →