Retrieval-Augmented Generation (RAG) ist eine KI-Technik, die vor der Antworterzeugung relevante Dokumente aus einer Wissensbasis abruft und Antworten dadurch auf echte Quellen statt auf das Modellgedächtnis stützt. Statt sich auf in Modellgewichten gespeicherte Muster zu verlassen, zieht RAG tatsächlichen Text heran und nutzt ihn beim Verfassen einer Antwort als Beleg. Das Ergebnis ist eine KI, die Fragen zu Dokumenten beantworten kann, die sie während des Trainings nie gesehen hat, und dabei auf Quellen verweisen kann.
Schritt 1: Aufteilen und Indexieren – Vorbereitung der Wissensbasis.
Dieser Vorverarbeitungsschritt geschieht offline, bevor überhaupt eine Nutzerin oder ein Nutzer eine Frage stellt. Das Ergebnis ist ein durchsuchbarer Index, in dem jeder Abschnitt anhand semantischer Ähnlichkeit und nicht anhand exakter Schlüsselwortübereinstimmung abgerufen werden kann. Die Qualität der Aufteilung beeinflusst die Abrufgenauigkeit unmittelbar: Schlecht getrennte Dokumente erzeugen Abschnitte, die nicht zusammenhängende Themen vermischen und zur Anfragezeit verrauschte, irrelevante Treffer liefern.
Wenn ein Nutzer eine Anfrage stellt, wandelt das System sie mit demselben Embedding-Modell, das bei der Indexierung eingesetzt wurde, in ein Vektor-Embedding um. Anschließend berechnet es Ähnlichkeitswerte zwischen dem Anfragevektor und jedem Abschnittsvektor im Index und gibt die k semantisch ähnlichsten Abschnitte zur Weiterverarbeitung zurück.
Stellen Sie es sich wie eine Bibliothekarin vor, die Ihre Frage anhört, ins Magazin geht und mit den fünf relevantesten Büchern zurückkommt, statt die gesamte Sammlung aus dem Gedächtnis wiederzugeben. Der Abrufschritt braucht keine Schlüsselwortüberschneidung; er gleicht Bedeutungen ab. Eine Frage wie „Warum wurde meine Vertragsverlängerung abgelehnt?“ kann eine Passage über „Klauseln zur Vertragsbeendigung“ hervorbringen, obwohl beide keinen einzigen gemeinsamen Begriff enthalten.
RAG ruft Wissen zur Anfragezeit ab; Fine-Tuning verankert Wissen in Modellgewichten. Das sind keine konkurrierenden Ansätze für dieselbe Aufgabe. Sie lösen grundverschiedene Probleme, und die Wahl zwischen ihnen erfordert ein Verständnis dafür, welchen Problemtyp Sie tatsächlich haben.
Am besten geeignet für
- RAG: Dynamisches, privates oder überprüfbares Wissen; häufig wechselnde Informationen; compliance-sensible Umgebungen; persönliche Dokumentbibliotheken.
- Fine-Tuning: Anpassung von Ausgabestil, Ton oder Format eines Modells an eine feste Domäne; Aufgaben, bei denen konsistentes Verhalten wichtiger ist als faktische Aktualität.
Eine Vektordatenbank speichert Embeddings und unterstützt Ähnlichkeitssuche. RAG ist eine vollständige Architektur, die eine Vektordatenbank als eine von mehreren Komponenten nutzt. Beide gleichzusetzen ist eines der häufigsten Missverständnisse bei Entwicklerinnen und Entwicklern, die neu in diesem Bereich sind; die Verwechslung hat praktische Folgen für alle, die ein funktionierendes System bauen wollen.
Der Unterschied ist konkret. Eine Vektordatenbank beantwortet die Frage „Welche Abschnitte ähneln dieser Anfrage am stärksten?“ Retrieval-Augmented Generation verwendet diese Antwort als Zwischenschritt und leitet die abgerufenen Abschnitte dann an ein Sprachmodell weiter, das eine Antwort in natürlicher Sprache zusammenfasst. Eine Vektordatenbank verschafft Ihnen Abruffähigkeit; RAG verschafft Ihnen eine vollständige Frage-Antwort-Pipeline auf dieser Abrufschicht.
Die praktische Konsequenz: Wenn ein Produkt behauptet, „Vektorsuche zu verwenden“ oder „Ihre Dokumente einzubetten“, fragen Sie, ob es auch Antworten aus dem abgerufenen Kontext erzeugt. Vektorsuche liefert eine Liste relevanter Passagen; ein System mit Retrieval-Augmented Generation verarbeitet diese Passagen zu einer direkten Antwort. Beides hängt zusammen, arbeitet aber auf unterschiedlichen Abstraktionsebenen, und das eine impliziert nicht das andere.
Die gefundenen Passagen und die Frage werden dem Sprachmodell für einen Antwortentwurf übergeben. Prüfen Sie wichtige Aussagen anhand der Passagen und behalten Sie Originalverweise. Suche kann Informationen übersehen und Generierung sie falsch wiedergeben; RAG garantiert keine Richtigkeit.