Il team Granite di IBM ha pubblicato il 12 novembre due anteprime sperimentali LLMON. Affrontano un punto debole dei prompt per agenti: istruzioni e dati non attendibili arrivano spesso come testo indistinto. L’articolo di lancio introduce modelli derivati dai checkpoint di base Granite 4.1 3B e 8B.
LLMON, abbreviazione di LLM Object Notation, aggiunge struttura e relazioni esplicite al contesto. Il team riferisce maggiore resistenza alla prompt injection indiretta, mantenendo capacità generali vicine ai corrispondenti Granite Instruct.
La versione è espressamente un’anteprima sperimentale per esplorazione e valutazione, non per produzione. Il comportamento è appreso anziché imposto, e i risultati di sicurezza riguardano attacchi statici.
Blocchi semantici sostituiscono relazioni implicite
Il contesto di un agente può comprendere istruzioni di sistema, turni precedenti, documenti recuperati, risposte di strumenti, requisiti di output e ragionamento. Testo ordinario o JSON possono codificarli senza rendere affidabile per il modello la comprensione delle relazioni.
LLMON usa tag significativi racchiusi in delimitatori riservati costituiti da token speciali. Contrassegna componenti coerenti come blocchi distinti con identificatori unici. Un blocco di esecuzione indica istruzione, dati di ingresso, requisiti applicabili e destinazione dell’output.
La dipendenza voluta diventa esplicita. Un documento può essere il materiale su cui opera un’istruzione senza diventare esso stesso un’istruzione. Turni e risultati estranei possono restare nel contesto senza essere associati al compito attuale.
La critica al JSON riguarda l’interpretazione del modello, non la correttezza dei parser. Virgolette e parentesi possono essere sintassi oppure contenuto. Un modello causale deve apprendere statisticamente la distinzione e seguire gli annidamenti a distanza. LLMON separa delimitatori strutturali e vocabolario dei contenuti, esprimendo localmente gli annidamenti.
Il progetto offre conversioni senza perdita tra JSON e LLMON. Non obbliga ad abbandonare JSON come formato di scambio applicativo.
I template di chat continuano a identificare gli interlocutori
LLMON arricchisce i template senza sostituirne i ruoli. I ruoli standard identificano chi parla; LLMON specifica il significato dei componenti e i loro rapporti.
Le anteprime includono un proprio template. Le applicazioni possono ancora creare una lista messages e chiamare apply_chat_template. I componenti nominati possono avere un flag exec: quelli attivi sono associati al blocco di esecuzione, quelli disattivati restano presenti senza riferimenti.
L’esempio separa l’istruzione di scrivere su IBM, il nome aziendale come dato e due vincoli di output. Il blocco di esecuzione collega questi elementi a un blocco assistant di output nominato. Un turno convenzionale appiattito lascerebbe più relazioni da inferire al modello.
Gli identificatori di blocco a due caratteri provengono da un insieme specifico del tokenizer. Secondo il team, indirizzare un blocco costa due token qualunque sia l’identificatore. Anche i dati strutturati dentro un componente possono diventare blocchi tipizzati e indirizzabili, anziché una stringa opaca.
I risultati contro le iniezioni hanno un perimetro definito
La prompt injection indiretta nasconde istruzioni ostili in materiale che l’agente deve leggere, come documenti o risposte di strumenti. La separazione di LLMON mira a impedire che quei dati acquisiscano autorità istruttiva.
Il team ha valutato le anteprime su OPI, definendo la robustezza come uno meno il tasso di successo degli attacchi. Afferma che LLMON ha evitato il 47% di attacchi in più rispetto al migliore modello di frontiera testato e il 95% in più rispetto al migliore modello open source testato. Sono confronti relativi degli autori, non aumenti in punti percentuali né misure riprodotte qui.
L’articolo riporta tendenze simili su ASB e StruQ. È essenziale che questi benchmark valutino iniezioni indirette statiche. Il team dichiara di lavorare ancora sugli attacchi adattivi sviluppati in più turni di chat.
Un successo degli attacchi quasi nullo su alcuni benchmark non dimostra quindi immunità generale. La pubblicazione descrive la regola dei privilegi come comportamento appreso, non garanzia imposta.
L’addestramento insegna la struttura delle dipendenze
I modelli partono dai checkpoint base Granite, invece di aggiungere il formato a modelli Instruct già pubblicati. Sei delimitatori diventano token singoli riservati e un corpus convenzionale di istruzioni viene riserializzato in componenti indirizzabili e blocchi di esecuzione.
L’addestramento comprende chat, conversazioni a più turni, generazione aumentata dal recupero e chiamate a strumenti. Introduce anche istruzioni esca e dati non associati, mantenendo l’output obiettivo. Insegna a seguire le dipendenze del blocco invece di ogni frase che sembri un’istruzione.
Gli autori descrivono cinque fasi sequenziali di rinforzo GRPO che coprono ragionamento multidominio, feedback umano, calibrazione della conoscenza e matematica. Una fase finale DPO usa mille coppie di preferenze on-policy tratte dalle risposte del modello ai tentativi di iniezione.
Nei benchmark standard il team riferisce prestazioni comparabili a Granite 4.1 Instruct. Il confronto vale per quelle valutazioni, non dimostra qualità invariata per ogni applicazione o formato.
I vocabolari personalizzati richiedono comunque valutazione
L’esempio ScienceWorld mostra tag specifici per obiettivi, regole di pianificazione, stato delle stanze, inventario e prossime azioni. Il team ha convertito traiettorie di riferimento, addestrato un adattatore LoRA e valutato su giochi del simulatore tenuti separati dall’addestramento.
L’esempio mostra come un nuovo vocabolario rappresenti la pianificazione. Non trasforma un risultato simulato in prova di autonomia sicura nel mondo reale.
Il repository LLMON offre strumenti ed esempi. L’articolo segnala anche il supporto nativo di Mellea, che può convertire le proprie chiamate ai modelli nel formato.
L’anteprima propone un esperimento concreto: esplicitare le relazioni fra istruzioni e dati e verificare se il modello le segue. I limiti restano altrettanto concreti: modelli sperimentali, separazione appresa e prove su attacchi statici, con quelli adattivi ancora in sviluppo.
- huggingface.co
- huggingface.co
- huggingface.co
- huggingface.co
- huggingface.co
- huggingface.co
- huggingface.co
- huggingface.co
- huggingface.co
- huggingface.co
- github.com
- github.com
- github.com
- arxiv.org
- cdn-uploads.huggingface.co
- arxiv.org
- arxiv.org
- cdn-uploads.huggingface.co
- huggingface.co
- huggingface.co
- cdn-uploads.huggingface.co
- github.com
- github.com
- arxiv.org
- arxiv.org
