Was ist ein RAG-System?

Ein RAG-System (Retrieval-Augmented Generation) verbindet eine Suchmaschine mit einem Sprachmodell: Es sucht zuerst die relevanten Passagen in den eigenen Dokumenten und formuliert daraus eine belegte Antwort. Das Sprachmodell antwortet also nicht aus seinem Trainingswissen, sondern aus Ihren Unterlagen. Jede Aussage lässt sich auf das Originaldokument zurückführen.

Damit sinkt das Risiko erfundener Antworten deutlich. RAG-Systeme lassen sich auf eigener Infrastruktur betreiben, sodass keine Unternehmensdaten an externe Anbieter fließen. Im KI-Wissensmanagement ist RAG der technische Kern.