Ein Sprachmodell kennt die internen Unterlagen einer Organisation nicht. Bei RAG wird zu jeder Frage zuerst in einer Dokumentensammlung gesucht, etwa in Handbüchern, Richtlinien oder Protokollen; die Treffer gehen mit der Frage an das Modell. So werden Antworten genauer, und man kann die Quelle zeigen. Halluzinationen werden seltener, verschwinden aber nicht. Das Verfahren wurde 2020 in einer Forschungsarbeit von Patrick Lewis und Kollegen beschrieben. Vom Use Case zum Prototyp: KI-Prototyping-Sprint.
Retrieval-Augmented Generation (RAG)
Verfahren, bei dem ein Sprachmodell vor dem Antworten passende Stellen aus eigenen Dokumenten sucht und seine Antwort darauf stützt.
Mehr zu KI und digitale Welt
Begriffe rund um künstliche Intelligenz und digitale Kompetenzen.
KI bei Tools for Tomorrow