Retrieval-Augmented Generation (RAG)

Was bedeutet Retrieval-Augmented Generation?

Retrieval-Augmented Generation (RAG) bezeichnet ein Verfahren, bei dem ein generatives KI-System vor oder während der Antworterstellung zusätzliche Informationen aus externen Datenquellen abruft und diese als Kontext für die generierte Antwort verwendet.

Der Begriff lässt sich sinngemäß als „durch Informationsabruf erweiterte Generierung“ übersetzen.

RAG verbindet damit zwei Prozesse:

Retrieval: Relevante Informationen werden aus einer Datenquelle gesucht und abgerufen.

Generation: Ein Sprachmodell verwendet diese Informationen, um eine Antwort zu formulieren.

Dadurch kann ein Large Language Model auf Informationen zugreifen, die nicht ausschließlich aus seinem ursprünglichen Training stammen.

Warum wird RAG eingesetzt?

Ein Sprachmodell besitzt nicht automatisch Zugriff auf alle aktuellen oder unternehmensinternen Informationen.

Stellen wir uns beispielsweise einen internen KI-Assistenten eines Unternehmens vor.

Ein Mitarbeiter fragt:

„Wie viele Urlaubstage stehen Mitarbeitern nach unserer aktuellen Betriebsvereinbarung zu?“

Das Sprachmodell sollte diese Frage nicht auf Basis allgemeiner Informationen beantworten. Stattdessen kann ein RAG-System zunächst die aktuelle Betriebsvereinbarung durchsuchen, relevante Passagen abrufen und sie dem Sprachmodell als Kontext bereitstellen.

Auf dieser Grundlage wird anschließend die Antwort generiert.

Wie funktioniert RAG vereinfacht?

Ein typischer Prozess lässt sich in mehrere Schritte unterteilen.

Zunächst wird die Frage des Nutzers verarbeitet.

Danach sucht das System in einer definierten Wissensquelle nach relevanten Informationen.

Das können beispielsweise sein:

• Dokumente
• Datenbanken
• Webseiten
• Produktinformationen
• interne Wissensdatenbanken
• Support-Dokumentationen

Die relevantesten Inhalte werden anschließend dem Sprachmodell als zusätzlicher Kontext zur Verfügung gestellt.

Das Modell formuliert daraus die Antwort.

Was hat RAG mit GEO zu tun?

RAG ist für Generative Engine Optimization interessant, weil es verdeutlicht, dass moderne KI-Antworten nicht ausschließlich aus statischem Trainingswissen entstehen müssen.

Wenn ein System externe Informationen abruft, gewinnen auffindbare, verständliche, aktuelle und hochwertige Quellen an Bedeutung.

Allerdings sollte man daraus nicht ableiten, dass jede öffentlich zugängliche Website automatisch von jedem RAG-System berücksichtigt wird.

Welche Quellen durchsucht werden, hängt vom jeweiligen System ab.

Für Unternehmen ist das Grundprinzip dennoch relevant: Informationen sollten so bereitgestellt werden, dass sie eindeutig verstanden und in geeigneten Systemen abgerufen werden können.

Was ist der Unterschied zwischen RAG und einem LLM?

Ein LLM ist das Sprachmodell selbst.

RAG ist eine Architektur beziehungsweise Methode, mit der zusätzliche Informationen in die Antwortgenerierung einbezogen werden.

Ein einfaches Beispiel:

Ein LLM entspricht einem Experten mit umfangreichem Allgemeinwissen.

RAG gibt diesem Experten vor der Antwort zusätzlich einen Ordner mit aktuellen, für die konkrete Frage relevanten Dokumenten.

Dadurch kann die Antwort aktueller oder spezifischer werden.

Welche Vorteile bietet RAG Unternehmen?

RAG kann insbesondere für Unternehmensanwendungen interessant sein.

Mögliche Einsatzbereiche sind:

• interne Wissensassistenten
• Kundenservice
• Produktsuche
• Support
• Dokumentenanalyse
• Vertriebsunterstützung
• Mitarbeiter-Onboarding

Unternehmen können dadurch generative KI mit eigenen Wissensbeständen verbinden.

Welche Grenzen hat RAG?

RAG garantiert nicht automatisch korrekte Antworten.

Wenn die abgerufenen Quellen falsch, veraltet oder irrelevant sind, kann auch die generierte Antwort problematisch sein.

Entscheidend sind deshalb unter anderem:

• Qualität der Daten
• Aktualität
• Retrieval-Qualität
• Berechtigungen
• Kontextauswahl
• Evaluation der Antworten

Für Marketingverantwortliche ist RAG vor allem deshalb wichtig, weil es erklärt, warum strukturierte, aktuelle und klar verständliche Informationen in einer KI-geprägten Informationslandschaft wertvoller werden.

RAG bildet damit eine technologische Brücke zwischen LLMs, Unternehmensdaten, AI Search und GEO.

Verwandte Begriffe: LLM, LLMO, GEO, AI Search, Embeddings, semantische Suche