RAG (Retrieval Augmented Generation): Definition, Nutzen und Grenzen
Definition
RAG (Retrieval Augmented Generation) verbindet ein Sprachmodell mit einer Suche in euren eigenen Dokumenten. Vor der Antwort holt das System passende Textstellen aus einer Wissensquelle und reicht sie dem Modell als Kontext an. So antwortet die KI auf Basis eurer Daten statt aus dem allgemeinen Training. Als Baustein einer Automatisierung liefert das aktuelle, belegbare Antworten, die sich in einen Ablauf einbauen lassen.
Warum der Begriff zählt
Ein Modell allein kennt nur, was im Training steckte, und erfindet im Zweifel plausibel klingende Antworten. RAG dreht das um: erst suchen, dann formulieren. Das ist wie eine Prüfung mit offenem Buch, bei der die KI nachschlägt, statt aus dem Gedächtnis zu raten. Für Teams, die aus einem internen Ablauf ein eigenes Werkzeug bauen wollen, ist RAG oft der Kern, weil die Antworten an eure Quelle gebunden bleiben.
Wann es relevant ist
- Antworten sollen auf euren Handbüchern, Tickets oder Verträgen beruhen.
- Der Wissensstand ändert sich, und das Modell soll nicht veraltet antworten.
- Nachvollziehbarkeit zählt, jede Aussage soll auf eine Quelle zeigen.
- Aus einer internen Suche soll ein Assistenz-Feature oder MVP werden.
Wann nicht
Wenn die nötige Information ohnehin im Modell steckt oder in wenige Sätze passt, ist der Aufbau einer Suchschicht Aufwand ohne Gewinn. Auch bei sehr kleinen, selten geänderten Wissensbeständen reicht es oft, den Text direkt in den Prompt zu legen. RAG lohnt sich, sobald die Wissensbasis groß, veränderlich oder belegpflichtig ist.
Branchen, die das nutzen
- Versicherungen: Sachbearbeitung, die Bedingungswerke durchsucht und Antworten mit Fundstelle liefert.
- Maschinenbau: technische Dokumentation und Service-Anleitungen als durchsuchbare Wissensquelle.
- Kanzleien: Recherche in eigenen Mandats- und Präzedenzunterlagen ohne Wechsel des Systems.
- Software-Support: Antworten aus der eigenen Doku und aus gelösten Tickets zusammenführen.
Typische Anwendungsfälle
- Ein interner Assistent, der aus Handbüchern und FAQ antwortet und die Quelle nennt.
- Automatische Vorschlagsantworten im Support, gestützt auf frühere Fälle.
- Ein Rechercheschritt in einem n8n-Ablauf, der Kontext holt, bevor das Modell schreibt.
- Prüfung eingehender Dokumente gegen eine interne Regel- oder Wissensbasis.
- Ein MVP, das eure Wissensbasis als Chat-Oberfläche für Kunden zugänglich macht.
Entscheidungshilfe
| Signal | RAG passt | Alternative |
|---|---|---|
| Antwort soll aus euren Dokumenten kommen | Suche plus Modell | reines Prompt ohne Quelle |
| Wissensbasis groß und veränderlich | RAG mit Vektordatenbank | Fakten fest in den Prompt schreiben |
| Beleg pro Aussage nötig | Fundstellen mitliefern | freie Generierung |
| Wenige, stabile Fakten | eher nicht | Kontext direkt anhängen |
Beispiel
Ein Team baut in einem self-hosted n8n-Ablauf eine Antwortlogik, die zuerst die passenden Absätze aus der internen Wissensbasis sucht und sie dann einem Modell als Kontext gibt. Jede Antwort verweist auf die genutzte Fundstelle, und ein Prüfschritt markiert Fälle ohne klaren Treffer. Aus diesem Ablauf entsteht später ein kleines Produkt für den Kundendienst. Das Beispiel beschreibt die Methode, keine behauptete Kennzahl.
Verbindung zu Services
RAG entsteht meist im Rahmen einer Workflow-Automatisierung oder n8n-Umsetzung, der Ausbau zum Produkt führt in die MVP-Entwicklung.
Quellen
Diese Einordnung beschreibt gängige Praxis von RAG. Aufbau der Suchschicht, Datenschutz und Hosting hängen vom Fall, den Systemen und den genutzten Werkzeugen ab und müssen im Einzelfall geprüft werden.