La génération augmentée par récupération, généralement appelée RAG, fournit à un modèle de langage des informations sélectionnées au moment où il répond. Au lieu de s’appuyer uniquement sur les schémas appris pendant l’entraînement, une application recherche une collection de documents, ajoute les passages pertinents à la requête et demande au modèle de répondre à partir de ces éléments.
Le flux de base comporte trois parties. La récupération trouve des passages candidats. L’augmentation associe ces passages aux consignes et à la question de l’utilisateur. La génération produit une réponse qui devrait rester ancrée dans le matériau fourni. Ce schéma est utile lorsque les connaissances sont privées, changent fréquemment ou nécessitent des citations.
Le RAG ne rend pas un modèle intrinsèquement véridique. Il crée une chaîne de composants que l’on peut inspecter et améliorer. Le système de récupération peut manquer le bon document, sélectionner une version obsolète ou retourner un passage qui partage des mots-clés mais pas le sens. Le prompt peut ne pas exiger d’ancrage. Le modèle peut alors combiner des extraits valides pour parvenir à une conclusion non étayée.
La préparation des documents détermine une grande part du résultat. Les fichiers ont besoin d’identifiants stables, de métadonnées utiles, de règles d’accès et de segments qui conservent suffisamment de sens autour d’eux. Des segments trop grands gaspillent du contexte et brouillent la pertinence. Des segments trop petits séparent une affirmation de sa définition, de sa date, de son exception ou de l’en-tête du tableau associé.
La récupération peut employer la recherche par mots-clés, la similarité vectorielle, le classement sémantique ou une approche hybride. La recherche par mots-clés est efficace pour les noms, les codes et les expressions exactes. La recherche vectorielle peut trouver des passages liés sur le plan conceptuel même si la formulation diffère. L’hybride est souvent un meilleur défaut car il combine les deux signaux, mais il doit malgré tout être évalué sur de vraies questions.
Le contrôle d’accès doit vivre dans la récupération, et non dans un avertissement après la génération. Un utilisateur ne devrait jamais recevoir un passage qu’il n’était pas autorisé à récupérer. Les documents récupérés doivent aussi être traités comme des entrées non fiables : un document peut contenir des consignes destinées à supplanter les règles de l’application. Gardez la politique système séparée et limitez ce que les outils en aval peuvent faire.
Le prompt doit identifier chaque segment source, exiger des citations pour les affirmations factuelles et définir la solution de repli lorsque les preuves sont insuffisantes. Il doit aussi indiquer au modèle comment gérer un désaccord : présenter les versions contradictoires avec leurs dates et citations plutôt que d’en choisir une silencieusement. Ces exigences facilitent le diagnostic des erreurs.
Mesurez séparément la récupération et la génération. Les tests de récupération demandent si le passage justificatif apparaît parmi les meilleurs résultats. Les tests de génération demandent si la réponse est étayée, complète, correctement citée et suffisamment prudente. Une réponse soignée peut masquer une récupération faible, tandis qu’une récupération parfaite peut encore être suivie d’une mauvaise synthèse.
Davantage de contexte n’est pas toujours préférable. Des passages peu pertinents consomment des tokens et peuvent éloigner la réponse des preuves les plus solides. Fixez un seuil de pertinence, supprimez les doublons, privilégiez les versions actuelles quand la fraîcheur compte et réservez assez d’espace à la réponse. Les questions complexes devront parfois être décomposées en plusieurs recherches ciblées.
Le RAG est le bon outil lorsque les faits résident dans un corpus privé ou évolutif. Le fine-tuning convient généralement mieux lorsque l’objectif est de modifier un comportement, un style ou la performance d’une tâche, plutôt que d’injecter des connaissances actuelles. Les outils d’agent sont utiles quand le système doit décider quand et où récupérer dans un workflow plus vaste.
Une interface RAG digne de confiance doit montrer ses sources, reconnaître quand le corpus ne peut pas répondre et permettre les corrections. Le véritable produit n’est pas le paragraphe généré. C’est le chemin de preuve qui permet au lecteur de décider si ce paragraphe mérite sa confiance.
Nous croisons sources primaires, documentation produit et cas d’usage réels pour vous aider à déterminer si un outil convient à votre manière de travailler.