Che cos'è RAG? Spiegazione della retrieval-augmented generation: guida pratica

Che cos'è RAG? Spiegazione della retrieval-augmented generation è più facile da comprendere quando il concetto è collegato a una decisione reale anziché trattato come l'ennesima parola d'ordine dell'IA. Questa guida di AI Tools Radar esamina l'idea operativa, i compromessi che contano e le domande da porsi prima di adottare uno strumento o un flusso di lavoro.

La Retrieval-Augmented Generation (RAG) è una tecnica di IA che recupera documenti pertinenti da una knowledge base prima di generare una risposta, ancorando le risposte a fonti reali anziché alla memoria del modello. Invece di basarsi sugli schemi incorporati nei pesi del modello, RAG recupera testo effettivo e lo usa come prova quando compone una risposta. Il risultato è un'IA in grado di rispondere a domande su documenti mai visti durante l'addestramento, con citazioni che può indicare.

I grandi modelli linguistici hanno un punto cieco fondamentale: non possono distinguere ciò che sanno davvero da ciò che stanno inventando con sicurezza. Un'indagine di MIT Technology Review del 2024 ha rilevato che le allucinazioni derivano da cause radicate nel modo in cui i modelli apprendono schemi statistici anziché fatti, e il problema si intensifica quando un modello viene interrogato su eventi recenti, dati proprietari o domini di nicchia al di fuori della sua distribuzione di addestramento. La retrieval-augmented generation è nata come risposta diretta a questo difetto strutturale. Ancorando la generazione al testo delle fonti recuperate, RAG sposta la modalità di errore dalla confabulazione sicura all'onesto «documento non trovato».

• Come funziona RAG in una frase: RAG recupera blocchi di documenti pertinenti al momento della query, quindi li fornisce a un modello linguistico per generare una risposta fondata e supportata da fonti. • RAG vs. fine-tuning: il fine-tuning incorpora la conoscenza nei pesi del modello in modo permanente; RAG recupera dinamicamente la conoscenza al momento della query. Risolvono problemi diversi e le attività ricche di conoscenza richiedono quasi sempre la retrieval-augmented generation. • Quando RAG è la scelta giusta: usa RAG quando la knowledge base cambia spesso, quando le risposte devono essere verificabili o quando lavori con documenti privati che non possono entrare nei dati di addestramento. • Cosa significa RAG locale: il RAG locale esegue l'intera pipeline di recupero sul dispositivo, quindi i documenti non lasciano mai la tua macchina. Questo conta per note personali, cartelle cliniche, file legali e ogni contesto che non caricheresti su un servizio cloud.

Cosa fa davvero la Retrieval-Augmented Generation.

La retrieval-augmented generation è un'architettura in due fasi: una fase di recupero che trova i passaggi più pertinenti in una knowledge base e una fase di generazione che usa quei passaggi come contesto fondato. Il modello linguistico non opera mai solo dalla memoria: opera sulla base di prove. Questa separazione rende RAG fondamentalmente diversa da un chatbot standard, che attinge solo agli schemi appresi durante l'addestramento. Significa inoltre che la conoscenza accessibile al modello non è fissata al momento dell'addestramento: può essere aggiornata continuamente modificando l'archivio documentale.

Questa architettura offre tre capacità distinte che né il recupero né la generazione possono produrre autonomamente.

• Ancoraggio: ogni risposta risale a un passaggio specifico nella knowledge base. Il modello non può inventare un fatto che nessuna fonte sostiene, perché il prompt stesso contiene solo testo recuperato. L'ancoraggio è il meccanismo che rende RAG affidabile per le domande fattuali. • Conoscenza dinamica: la knowledge base è un livello di archiviazione separato, non i pesi del modello. Aggiornarla significa aggiungere o modificare documenti, non riaddestrare un modello. Un team legale può aggiungere una nuova normativa questa mattina e renderla immediatamente accessibile questo pomeriggio, senza alcun intervento di ingegneria. • Tracciabilità delle fonti: poiché i blocchi recuperati entrano esplicitamente nel prompt, il sistema sa quale documento ha prodotto ogni risposta. Questo rende la retrieval-augmented generation adatta agli ambienti sottoposti ad audit: team di compliance, cartelle cliniche, assistenza clienti e ogni contesto in cui una risposta deve essere accompagnata da una citazione.

La pipeline in tre passaggi: come RAG produce una risposta.

L'architettura originale della retrieval-augmented generation, introdotta da Lewis e colleghi nel loro articolo del 2020 a NeurIPS, ha definito la pipeline in tre fasi che la maggior parte delle implementazioni segue ancora oggi. Ogni fase ha un ruolo distinto e un fallimento in qualsiasi fase degrada la qualità della risposta finale. Comprendere il funzionamento di ogni passaggio aiuta a chiarire dove la retrieval-augmented generation riesce e dove può ancora non bastare. Rivela anche quale parte della pipeline migliorare quando un sistema produce risposte scadenti.

Passaggio 1: chunking e indicizzazione, preparare la knowledge base.

Prima che arrivi qualunque query, i documenti devono essere preparati per il recupero. Un processo di ingestione documentale divide il testo grezzo in blocchi, in genere da 200 a 500 token ciascuno, scelti per preservare la coerenza semantica pur restando abbastanza piccoli da inserire più blocchi in un singolo prompt. Ogni blocco viene poi convertito in un embedding vettoriale, una rappresentazione numerica ad alta dimensionalità del suo significato, e memorizzato in un database vettoriale insieme al testo originale.

Questo passaggio di pre-elaborazione avviene offline, prima che un utente ponga una domanda. Il risultato è un indice ricercabile in cui ogni blocco può essere recuperato per somiglianza semantica anziché per corrispondenza esatta di parole chiave. La qualità del chunking influenza direttamente la precisione del recupero; documenti divisi male producono blocchi che mescolano argomenti non correlati e restituiscono corrispondenze rumorose e irrilevanti al momento della query.

Quando un utente invia una query, il sistema converte quella query in un embedding vettoriale usando lo stesso modello di embedding applicato durante l'indicizzazione. Poi calcola i punteggi di somiglianza tra il vettore della query e ogni vettore di blocco nell'indice, restituendo i primi k blocchi semanticamente più simili da inoltrare.

Immaginalo come un bibliotecario che ascolta la tua domanda, entra tra gli scaffali e torna con i cinque libri più pertinenti anziché recitare a memoria l'intera collezione. Il passaggio di recupero non richiede sovrapposizione di parole chiave; associa il significato. Una query su «perché il rinnovo del mio contratto è stato rifiutato» può far emergere un passaggio sulle «clausole di risoluzione dell'accordo» anche senza una sola parola condivisa.

Passaggio 3: generazione aumentata, rispondere con prove.

I blocchi recuperati e la query originale vengono concatenati in un prompt aumentato: il modello vede insieme le prove e la domanda. Il modello linguistico genera quindi una risposta usando quell'input combinato, vincolata dal testo della fonte anziché libera di inventare basandosi solo sulla memoria dell'addestramento.

Un limite merita un riconoscimento diretto: la qualità della risposta generata dipende interamente dalla qualità del recupero. Se il documento pertinente non è mai stato indicizzato, o se il chunking ha frammentato un passaggio chiave, il modello può ancora produrre una risposta inaccurata, perché i blocchi recuperati semplicemente non contengono ciò che serve. La retrieval-augmented generation riduce nettamente le allucinazioni per le domande all'interno della knowledge base, ma non elimina gli errori per le domande a cui la knowledge base non può rispondere.

RAG recupera la conoscenza al momento della query; il fine-tuning la incorpora nei pesi del modello. Non sono approcci in competizione per lo stesso compito: risolvono problemi fondamentalmente diversi e la scelta tra loro richiede di capire che tipo di problema hai davvero.

Aggiornamento della conoscenza • RAG: aggiorna la knowledge base aggiungendo o modificando documenti. Le modifiche sono disponibili subito, senza alcuna modifica al modello. • Fine-tuning: nuova conoscenza richiede una nuova esecuzione di addestramento, che può richiedere da ore a giorni a seconda della dimensione del dataset e dell'hardware.

Costo • RAG: i costi sono dominati dall'infrastruttura di archiviazione e recupero. I database vettoriali sono economici nella maggior parte delle scale e, dopo l'indicizzazione, non è richiesto calcolo GPU. • Fine-tuning: richiede un notevole calcolo GPU per l'addestramento. Un'analisi arXiv del 2024 ha rilevato che i costi di fine-tuning di un LLM con 7 miliardi di parametri possono raggiungere da 1.000 a 12.000 dollari per esecuzione, crescendo rapidamente con la dimensione del modello.

Trasparenza • RAG: la fonte di ogni risposta è esplicita nel prompt. Puoi registrare quali documenti hanno prodotto quali risposte e ricondurre ogni errore a un blocco specifico. • Fine-tuning: la conoscenza è distribuita tra miliardi di pesi del modello. Non esiste un meccanismo per verificare quale esempio di addestramento abbia influenzato un output specifico.

Ideale per • RAG: conoscenza dinamica, privata o verificabile; informazioni che cambiano di frequente; ambienti sensibili alla compliance; librerie personali di documenti. • Fine-tuning: adattare lo stile, il tono o il formato di output di un modello a un dominio fisso; attività in cui la coerenza comportamentale conta più dell'attualità fattuale.

Per knowledge base personali, repository documentali aziendali e recupero di informazioni in tempo reale, la retrieval-augmented generation è quasi sempre l'architettura corretta. Fare fine-tuning di un modello affinché memorizzi i tuoi appunti di riunione sarebbe più lento, molto più costoso e impossibile da aggiornare senza riaddestrare da zero. Quando la conoscenza cambia spesso, la retrieval-augmented generation è l'unico approccio che tiene il passo senza costi ricorrenti di ingegneria.

Un database vettoriale memorizza embedding e supporta la ricerca per somiglianza. RAG è un'architettura completa che usa un database vettoriale come uno dei diversi componenti. Confondere i due concetti è uno degli equivoci più comuni tra gli sviluppatori nuovi in questo ambito, e la confusione ha conseguenze pratiche per chiunque cerchi di costruire un sistema funzionante.

La distinzione è concreta. Un database vettoriale risponde alla domanda «quali blocchi sono più simili a questa query?». La retrieval-augmented generation usa quella risposta come passaggio intermedio, quindi invia i blocchi recuperati a un modello linguistico che sintetizza una risposta in linguaggio naturale. Avere un database vettoriale ti dà la capacità di recupero; avere RAG ti dà una pipeline completa di domande e risposte costruita sopra quel livello di recupero.

Un'analogia utile: un database vettoriale è il sistema di scaffali e catalogo di una biblioteca. RAG è il servizio bibliotecario completo, incluso il bibliotecario che trova i libri, legge le sezioni pertinenti e spiega la risposta in linguaggio semplice. Puoi costruire e interrogare un database vettoriale senza mai generare testo. Non puoi eseguire un sistema RAG senza un livello di recupero, ma il solo recupero non è RAG.

L'implicazione pratica: se un prodotto afferma di «usare la ricerca vettoriale» o di «incorporare i tuoi documenti», chiedi se genera anche risposte a partire dal contesto recuperato. La ricerca vettoriale restituisce un elenco di passaggi pertinenti; un sistema di retrieval-augmented generation prende quei passaggi e compone una risposta diretta. I due concetti sono correlati, ma operano a livelli di astrazione diversi e uno non implica l'altro.

Domande comuni sulla Retrieval-Augmented Generation.

R: La ricerca semantica trova i documenti più simili alla tua query e li mostra affinché tu li legga. RAG fa un passo in più: prende quei documenti e ne sintetizza una risposta diretta in linguaggio naturale. La ricerca semantica restituisce prove; la retrieval-augmented generation le interpreta e compone una risposta.

R: No. La retrieval-augmented generation recupera la conoscenza al momento della query e la passa al modello linguistico come contesto del prompt. I pesi del modello non vengono mai modificati. Un normale modello base pre-addestrato funziona come livello di generazione, ed è uno dei motivi per cui RAG è più rapido ed economico da distribuire rispetto al fine-tuning nella maggior parte dei casi d'uso.

D: I miei dati sono sicuri quando uso uno strumento basato su RAG?

R: Dipende interamente dall'architettura di distribuzione. Il RAG locale mantiene tutti i documenti e gli embedding sul dispositivo; nulla raggiunge server esterni. Il RAG cloud invia i tuoi documenti a un servizio ospitato per generare embedding ed eseguire il recupero. Le implicazioni per la privacy differiscono in modo sostanziale, e la differenza conta per dati personali o professionali sensibili. Quando valuti un prodotto basato su RAG, chiedi esplicitamente dove sono memorizzati gli embedding e quale parte li controlla.

D: In cosa RAG è diverso dall'incollare documenti in una chat?

R: Incollare documenti in una finestra di chat incontra due limiti rigidi: la dimensione della finestra di contesto e l'esposizione dei dati. Anche grandi finestre di contesto contengono forse 75.000 parole, e l'intero documento viene inviato ai server del fornitore del modello. RAG recupera solo i blocchi pertinenti al momento della query, scala a knowledge base di qualsiasi dimensione e, nelle distribuzioni locali, mantiene il materiale di origine completamente privato. Per qualsiasi cosa oltre una manciata di pagine, la retrieval-augmented generation è l'unica architettura che rimane pratica.

Metadati SEO. Titolo: Che cos'è RAG? Spiegazione della Retrieval-Augmented Generation Meta description: RAG combina il recupero di documenti con la generazione IA per offrire risposte fondate sulle fonti. Scopri come funziona la retrieval-augmented generation e quando usarla. Parola chiave principale: retrieval-augmented generation Obiettivo per featured snippet: cos'è RAG Parole chiave LSI: cos'è RAG, definizione RAG, RAG locale, esempi RAG, come funziona RAG Livello di difficoltà: intermedio Tempo di lettura: 9 min Numero di parole: 2117

Riferimenti esterni utilizzati. 1. «le allucinazioni derivano dal modo in cui i modelli apprendono schemi statistici, non fatti» -- MIT Technology Review, https://www.technologyreview.com/2024/06/18/1093440/what-causes-ai-hallucinate-chatbots/ 2. «Retrieval-Augmented Generation per attività NLP ad alta intensità di conoscenza» -- Lewis et al. 2020, NeurIPS, https://arxiv.org/abs/2005.11401 3. «il fine-tuning completo di un modello con 7 miliardi di parametri può costare tra 1.000 e 12.000 dollari per esecuzione» -- Understanding the Performance and Estimating the Cost of LLM Fine-Tuning, arXiv 2024, https://arxiv.org/abs/2408.04693

Slug URL suggerito. /blog/what-is-retrieval-augmented-generation

Il test pratico è se questo approccio migliora un'attività ripetibile senza nasconderne fonti, costi o modalità di errore. Inizia con un'attività rappresentativa, mantieni un controllo umano dove gli errori contano e rivaluta il risultato man mano che modelli e prodotti cambiano.

Esplora la directory degli strumenti →