RAG-Architektur fuer interne Wissensassistenten: die Designentscheidungen hinter fundierten Antworten

Dieser Leitfaden richtet sich an Architekten und Engineering Leads, die die Retrieval-Pipeline hinter einem mitarbeiterorientierten Assistenten entwerfen. Er erlaeutert die Entscheidungen und ihre Standardwerte. Wenn Sie die technische Umsetzung wuenschen, besuchen Sie unseren Enterprise-Knowledge-and-RAG-Service; fuer die Produktuebersicht lesen Sie den Artikel zum KI-Wissensassistenten. Wissensassistenten sind einer der KI-Schritte, die in unserem KI-Automatisierungsleitfaden fuer Geschaeftsprozesse behandelt werden.

Inhalt dieses Leitfadens

• Warum entscheidet das Retrieval ueber die Qualitaet?
• Die Pipeline-Entscheidungen im Ueberblick
• Ingestion und Chunking
• Retrieval: Keyword, Vektor oder hybrid
• Berechtigungen: filtern, bevor das Modell irgendetwas sieht
• Aktualitaet und Loeschung
• Fundierte Antworten und Ablehnungen
• Ein RAG-System evaluieren
• RAG, langer Kontext, Fine-Tuning oder Suche: Alternativen und Auswahlkriterien
• KI in der RAG-Pipeline
• Welche Auslieferungsnachweise gibt es - und welche nicht?
• Was sind die Grenzen dieses Leitfadens?
• Haeufig gestellte Fragen
• Naechster Schritt

Warum entscheidet das Retrieval ueber die Qualitaet?

Retrieval-Augmented Generation, eingefuehrt von Lewis und Kollegen im Jahr 2020, kombiniert ein Sprachmodell mit einem externen Index: Das System findet zunaechst die fuer eine Frage relevanten Textpassagen und fordert das Modell dann auf, auf Basis dieser Passagen zu antworten. Fuer unternehmensinterne Wissensinhalte ist das gleich doppelt bedeutsam. Das Modell wurde nie mit Ihren Vertraegen oder Verfahren trainiert, und diese Dokumente aendern sich jede Woche.

Die Konsequenz laesst sich leicht uebersehen: Wenn ein Assistent eine falsche Antwort gibt, liegt die Ursache in der Regel vor dem Modell. Die richtige Textpassage wurde nie indiziert, an der falschen Stelle geteilt, unterhalb von Rauschen eingestuft oder herausgefiltert. Ein Modellwechsel behebt das selten. Die nachstehenden Entscheidungen sind der Ort, an dem Qualitaet gewonnen oder verloren wird.

Die Pipeline-Entscheidungen im Ueberblick

Ingestion und Chunking

Beginnen Sie mit einem Quellinventar statt einem Crawl. Erfassen Sie fuer jedes System den Verantwortlichen, das Zugriffsmodell, die Aktualisierungsfrequenz und ob es die aktuelle Version der Wahrheit enthaelt. Duplikate und veraltete Kopien sind die haeufigste Ursache fuer selbstsicher falsche Antworten; legen Sie daher fest, welche Quelle Vorrang hat, bevor Sie irgendetwas indizieren.

Chunking ist die Entscheidung mit dem groessten Einfluss auf das Retrieval. Fensterfixierte Groessen sind einfach, schneiden aber Verfahren und Tabellen in der Mitte durch. Strukturbewusstes Chunking teilt nach Ueberschriften, Listenpunkten oder Tabellenzeilen auf und speichert den Ueberschriftenpfad zu jedem Chunk, sodass eine Passage eigenstaendig gefunden und zitiert werden kann. Fuer lange Verfahren indizieren Sie kleine Chunks zum Matching, uebergeben dem Modell aber den uebergeordneten Abschnitt, damit die Antwort die gesamte Schritt-Liste sieht. Speichern Sie Dokumentmetadaten zu jedem Chunk: Quelle, Verantwortlicher, Zugriffsrechte, Version und Datum.

Retrieval: Keyword, Vektor oder hybrid

Vektorsuche findet Passagen, die in unterschiedlichen Worten dasselbe bedeuten. Keyword-Suche findet exakte Treffer: Produktcodes, Vertragsnummern, Namen und internen Jargon, den Embeddings verwischen. Unternehmensfragen verbinden beides, weshalb hybrides Retrieval der sinnvolle Standard ist. Microsofts Dokumentation fuer seinen Suchdienst beschreibt das gaengige Muster: Volltext- und Vektoranfragen parallel ausfuehren und die beiden Ranglisten per Reciprocal Rank Fusion zusammenfuehren.

Ein Reranker liest dann jeden Kandidaten zusammen mit der Frage und sortiert sie neu. Er ist langsamer als der erste Retrieval-Schritt und laeuft daher nur auf den Kandidaten; er ist oft die guenstigste einzelne Verbesserung der Antwortqualitaet. Halten Sie die finale Auswahl kurz und divers. Liu und Kollegen zeigten in "Lost in the Middle", dass Modelle Informationen am Anfang und Ende eines langen Kontexts besser nutzen als Informationen in der Mitte - mehr Kontext ist also nicht automatisch besser.

Berechtigungen: filtern, bevor das Modell irgendetwas sieht

Ein Assistent darf nie ein Dokument zitieren, das der Fragesteller nicht oeffnen duerfte. Setzen Sie das im Retrieval durch, nicht im Prompt: Speichern Sie Zugriffsrechte zu jedem Chunk, uebergeben Sie Identitaet und Gruppen des Fragestellers an die Suchanfrage, und schliessen Sie alles aus, was er nicht sehen darf, bevor die Generierung beginnt. Filterung nach der Generierung oder die Aufforderung an das Modell, eingeschraenkte Inhalte zurueckzuhalten, gibt Informationen durch Zusammenfassungen und Hinweise preis.

OWASP listet Vektor- und Embedding-Schwachstellen als LLM08 in seinem 2025er Top 10 fuer LLM-Anwendungen, darunter unbefugten Zugriff ueber den Index, Cross-Tenant-Leaks in gemeinsam genutzten Vector Stores und vergiftete Inhalte. Seine Gegenmassnahmen entsprechen diesem Design: feingranulierter, berechtigungsbasierter Zugriff auf den Vector Store, validierte Ingestion aus vertrauenswuerdigen Quellen, nach Zugriffsebene klassifizierte Inhalte und unveraenderliche Retrieval-Logs. Wenn ein Assistent auch handeln kann und nicht nur antworten, gelten zusaetzlich die Kontrollen in unserem KI-Agenten-Sicherheitsleitfaden.

Aktualitaet und Loeschung

Unternehmenswissen aendert sich, und der Index muss mitziehen. Indizieren Sie bei Aenderungsereignissen neu, wenn das Quellsystem sie bereitstellt, und nach einem Zeitplan, wenn nicht. Speichern Sie das letzte Aktualisierungsdatum zu jedem Chunk und zeigen Sie es neben der Quellenangabe an, damit ein Nutzer sehen kann, dass eine Richtlinienpassage zwei Jahre alt ist. Loeschungen sind genauso wichtig wie Aktualisierungen: Wenn ein Dokument zurueckgezogen oder der Zugriff einer Person widerrufen wird, muss der Index dies innerhalb des Zeitraums widerspiegeln, den Ihre Datenrichtlinie verspricht, und die Aufbewahrung von Fragen und Antworten benoetigt eine eigene Regel.

Fundierte Antworten und Ablehnungen

Der Generierungsschritt ist ein Vertrag: aus den Textpassagen antworten, jeden Anspruch auf eine Passage belegen und "Ich weiss es nicht" sagen, wenn die Passagen eine Antwort nicht stuetzen, und dabei auf den Dokumentverantwortlichen verweisen. NISTes Generative AI Profile nennt Konfabulation - die selbstsichere Aussage falscher Inhalte - zu den Kernrisiken generativer KI; Quellenangaben und Ablehnungen sind die Methode, mit der Nutzer darauf pruefen koennen. Fuer regulierte Themen wie HR, Recht oder Finanzen leiten Sie Antworten in eine Entwurfs-zur-Pruefung-Warteschlange statt direkt zu antworten.

RAG, langer Kontext, Fine-Tuning oder Suche: Alternativen und Auswahlkriterien

Vier Kriterien entscheiden: wie oft sich das Wissen aendert, ob verschiedene Personen unterschiedliche Dokumente sehen duerfen, ob Antworten auf eine Quelle zurueckfuehrbar sein muessen, und wie viele Dokumente beteiligt sind. In der Praxis kombinieren sich die Ansaetze: RAG fuer Fakten, ein leichtes Fine-Tuning oder Anweisungen fuer das Format und Suche als Fallback. Die Auswahl, welches Wissensproblem zuerst geloest werden soll, ist Teil einer Enterprise-KI-Readiness-Bewertung.

Welche Auslieferungsnachweise gibt es - und welche nicht?

• Was existiert. Netbase hat Retrieval-augmented-Wissensassistenten, Dokument-KI und MLOps-Pipelines fuer nicht genannte Kunden ausgeliefert; der anonymisierte RAG-Datensatz beschreibt die Art des Systems und die Rolle von Netbase. Die Auslieferung folgt den Sicherheitspraktiken von Netbase, einschliesslich rollenbasierter Zugriffssteuerung, MFA fuer Admin-Dashboards, TLS waehrend der Uebertragung und AES im Ruhezustand, Secure-Code-Review und Schwachstellen-Scanning.
• Was nicht existiert. Der Datensatz veroeffentlicht keinen Kundennamen, keine Korpusgroesse, keine Genauigkeit, keine Adoptionsrate und keine eingesparte Zeit; daher wird hier nichts davon angeboten. Die Standards auf dieser Seite sind Designleitlinien, keine gemessenen Ergebnisse aus diesem Projekt.

Was sind die Grenzen dieses Leitfadens?

• Die Standards eignen sich fuer interne Assistenten ueber Dokumente und Datensaetze in einer Organisation; oeffentliche Chatbots, Multi-Tenant-Produkte und regulierte Beratung erfordern weitere Kontrollen.
• Forschungsarbeiten und Herstellerdokumentation werden fuer Methoden zitiert, nicht als Empfehlungen; die Retrieval-Qualitaet haengt von Ihren Inhalten ab und muss anhand Ihrer Fragen gemessen werden.
• Personenbezogene Daten im Index bringen Datenschutzpflichten mit sich, die dieser Leitfaden nicht ersetzt; holen Sie rechtliche Beratung ein, wo die DSGVO oder anderes Datenschutzrecht gilt.

Naechster Schritt

Teilen Sie uns mit, welche Quellen Ihre Mitarbeiter heute durchsuchen, wer was sehen darf und zehn echte Fragen - wir vereinbaren einen Loesungsreview, um das Retrieval-Design und sein Evaluations-Set zu skizzieren. Sie koennen auch KI-Automatisierung und Agents oder weitere Netbase-Insights ansehen.

Verwandte Leistungen und Lösungen