RAG steht für «Retrieval-Augmented Generation» und bezeichnet eine Methode, bei der ein Sprachmodell vor dem Antworten gezielt in einer externen Wissensquelle nachschlägt. Statt sich nur auf das zu verlassen, was im Training gelernt wurde, holt das System passende Textstellen aus einer Datenbank oder Dokumentensammlung und legt sie dem Modell als Kontext vor.
Der Vorteil: Antworten werden aktueller und faktentreuer, und das Modell kann auf firmeneigenes oder sehr spezifisches Wissen zugreifen, das gar nicht Teil seines Trainings war. RAG senkt zudem das Risiko von Halluzinationen, weil die Antwort auf konkreten Quellen fusst. In der Praxis steckt RAG hinter vielen Chatbots, die Fragen zu internen Handbüchern, Support-Dokumenten oder Gesetzestexten beantworten – ohne dass dafür ein eigenes Modell trainiert werden muss.