Retrieval-Augmented Generation (RAG) to technika AI, która przed wygenerowaniem odpowiedzi wyszukuje istotne dokumenty w bazie wiedzy, osadzając odpowiedzi w rzeczywistych źródłach, a nie wyłącznie w pamięci modelu. Zamiast polegać na wzorcach zapisanych w wagach modelu, RAG pobiera rzeczywisty tekst i wykorzystuje go jako dowód podczas układania odpowiedzi. Dzięki temu AI może odpowiadać na pytania o dokumenty, których nigdy nie widziało podczas treningu, oraz wskazywać cytowania.
Krok 1: dzielenie na fragmenty i indeksowanie — przygotowanie bazy wiedzy.
Ten etap wstępnego przetwarzania odbywa się offline, zanim użytkownik zada pierwsze pytanie. Rezultatem jest indeks, w którym każdy fragment można pobrać przez podobieństwo semantyczne, nie tylko dokładne dopasowanie słów kluczowych. Jakość dzielenia bezpośrednio wpływa na precyzję wyszukiwania: źle podzielone dokumenty tworzą fragmenty mieszające niezwiązane tematy i zwracają przy zapytaniu zaszumione, nieistotne trafienia.
Gdy użytkownik wysyła zapytanie, system zamienia je na osadzenie wektorowe za pomocą tego samego modelu osadzeń, którego użyto przy indeksowaniu. Następnie oblicza wyniki podobieństwa między wektorem zapytania a każdym wektorem fragmentu w indeksie i zwraca top-k najbardziej podobnych semantycznie fragmentów do dalszego użycia.
Można wyobrazić to sobie jak bibliotekarza, który słucha pytania, idzie między regały i przynosi pięć najtrafniejszych książek, zamiast recytować z pamięci całą kolekcję. Etap wyszukiwania nie wymaga wspólnych słów kluczowych; dopasowuje znaczenie. Zapytanie o „dlaczego odrzucono odnowienie mojej umowy” może wydobyć fragment o „klauzulach rozwiązania porozumienia”, nawet jeśli oba zdania nie mają ani jednego wspólnego słowa.
RAG pobiera wiedzę w chwili zapytania; dostrajanie zapisuje wiedzę w wagach modelu. Nie są to konkurencyjne podejścia do tego samego zadania. Rozwiązują zasadniczo różne problemy, a wybór między nimi wymaga zrozumienia, jaki problem rzeczywiście masz.
Najlepsze zastosowanie
- RAG: dynamiczna, prywatna albo weryfikowalna wiedza; często zmieniające się informacje; środowiska wrażliwe na zgodność; osobiste biblioteki dokumentów.
- Dostrajanie: dopasowanie stylu, tonu lub formatu odpowiedzi modelu do stałej dziedziny; zadania, gdzie konsekwencja zachowania jest ważniejsza niż aktualność faktów.
Baza wektorowa przechowuje osadzenia i obsługuje wyszukiwanie podobieństwa. RAG to pełna architektura, która wykorzystuje bazę wektorową jako jeden z kilku komponentów. Mylenie tych pojęć jest jednym z najczęstszych nieporozumień u programistów nowych w tej dziedzinie i ma praktyczne konsekwencje dla każdego, kto próbuje zbudować działający system.
Różnica jest konkretna. Baza wektorowa odpowiada na pytanie „które fragmenty są najbardziej podobne do tego zapytania?”. Retrieval-augmented generation używa tej odpowiedzi jako kroku pośredniego, a następnie kieruje pobrane fragmenty do modelu językowego, który syntetyzuje odpowiedź w języku naturalnym. Posiadanie bazy wektorowej daje możliwość wyszukiwania; posiadanie RAG daje kompletny potok pytań i odpowiedzi zbudowany ponad warstwą wyszukiwania.
Praktyczna konsekwencja: jeśli produkt twierdzi, że „używa wyszukiwania wektorowego” lub „osadza Twoje dokumenty”, zapytaj, czy generuje także odpowiedzi z pobranego kontekstu. Wyszukiwanie wektorowe zwraca listę istotnych fragmentów; system retrieval-augmented generation bierze te fragmenty i układa bezpośrednią odpowiedź. Te pojęcia są powiązane, ale działają na różnych poziomach abstrakcji i jedno nie oznacza drugiego.
Odnalezione fragmenty i pytanie trafiają do modelu językowego, który tworzy szkic odpowiedzi. Sprawdź ważne twierdzenia w źródłach i zachowaj odnośniki do oryginałów. Wyszukiwanie może pomijać informacje, a generowanie je zniekształcać; RAG nie gwarantuje poprawności.