Glossar
Was ist RAG (Retrieval-Augmented Generation)?
Zuletzt aktualisiert:
RAG (Retrieval-Augmented Generation, abrufgestützte Generierung) ist ein Verfahren, bei dem ein Sprachmodell vor der Antwort zuerst passende Dokumente sucht und seine Antwort auf diese Fundstellen stützt, statt nur auf sein trainiertes Gedächtnis.
Der Ablauf hat zwei Stufen: Ein Retriever sucht aus einem Dokumentenbestand die relevanten Stellen, und das Modell formuliert daraus die Antwort. Damit bleiben Antworten aktuell (der Bestand lässt sich pflegen, ohne neu zu trainieren) und nachprüfbar (die Fundstelle ist benennbar).
RAG ist der Unterschied zwischen einem Modell, das plausibel klingt, und einem, das recht hat. Für Firmenwissen wie Produktkataloge, Richtlinien und Verträge ist es die Standardbauart, weil das Modell nur aus den freigegebenen Dokumenten antwortet.
Warum das für den Mittelstand zählt
RAG macht KI im Mittelstand erst brauchbar: Das Modell beantwortet Fragen aus den eigenen Dokumenten statt aus dem Internet, und die Antwort bleibt auf das prüfbar, was das Unternehmen freigegeben hat.