Retrieval
Relevante Informationen abrufen
Das System durchsucht nur die Quellen, für die der Nutzer berechtigt ist, und wählt die besten Passagen aus.
RAG-Systeme & KI-Wissensmanagement
Unternehmenswissen finden. Verstehen. Mit Quellen beantworten.
Ein RAG-System macht Informationen aus Dokumenten, Wikis und Datenbanken per natürlicher Frage zugänglich. Es sucht zuerst passende Textstellen und lässt die KI erst danach antworten – statt auf gut Glück zu raten.
- Nachvollziehbare Quellen
- Präzise Suche statt Dokumentenflut
- Rechte und Aktualität planbar
Wissensassistent
F
Frage
Welches Schmiermittel braucht die Anlage MH-240 bei der 500-Stunden-Wartung?
3 relevante Passagen gefunden
Antwort aus freigegebenen Quellen
Für die 500-Stunden-Wartung nennt der Wartungsplan das Schmiermittel L-X42. Vorher ist die Anlage drucklos zu schalten.
Wartungsplan MH-240 · Version 4.2 · Seite 18Die kurze Erklärung
RAG ist wie eine sehr schnelle Bibliothekarin für Ihre KI.
Stellen Sie sich ein neues Teammitglied vor: Es kann gut formulieren, kennt aber Ihre internen Handbücher, Verträge und Prozesse nicht. Ein RAG-System übernimmt die Recherche. Es findet zu jeder Frage die passenden Seiten, legt sie dem Sprachmodell vor und fordert eine Antwort auf Basis dieser Fundstellen an.
Augmented
Die Frage um Kontext erweitern
Die gefundenen Textstellen werden der ursprünglichen Frage als zusätzlicher Unternehmenskontext beigefügt.
Generation
Eine verständliche Antwort formulieren
Das Sprachmodell fasst den Kontext zusammen, erklärt ihn passend zur Frage und nennt im besten Fall die Quellen.
Wichtig: RAG macht ein Sprachmodell nicht automatisch unfehlbar.
Es reduziert unbelegte Antworten, weil relevante Quellen bereitgestellt werden. Fehler bleiben trotzdem möglich – etwa durch veraltete Dokumente, schlechte Treffer oder falsche Schlussfolgerungen. Ein belastbares System braucht deshalb Tests, Quellenangaben, Rechte und klare Grenzen.
Der vollständige Ablauf
Von der PDF zur belegten Antwort – in zwei Phasen.
Die Technik wirkt kompliziert, folgt aber einer klaren Logik: Wissen wird einmal gut vorbereitet. Bei jeder Frage werden dann nur die passenden Stellen gesucht und an das Sprachmodell übergeben.
Phase A
Indexierung
Das Unternehmenswissen wird für die Suche vorbereitet.
Quellen verbinden
PDFs, Handbücher, Wiki-Seiten, FAQ, SharePoint, Notion oder andere freigegebene Quellen werden angebunden.
Inhalte lesbar machen
Text wird extrahiert, Scans werden per OCR erkannt und unnötige Kopfzeilen, Dubletten oder Formatfehler werden bereinigt.
Dokumente in Chunks teilen
Lange Dokumente werden in sinnvolle Abschnitte zerlegt, ohne Überschriften, Tabellen oder zusammengehörige Aussagen gedankenlos zu trennen.
Bedeutung als Embedding speichern
Jeder Abschnitt erhält eine mathematische Darstellung seiner Bedeutung und wird zusammen mit Quelle, Datum und Zugriffsrechten gespeichert.
Phase B
Frage und Antwort
Für jede neue Frage läuft die eigentliche Recherche.
Frage verstehen
Auch die Nutzerfrage wird in eine Bedeutungssignatur umgewandelt und – falls sinnvoll – um Suchbegriffe oder Filter ergänzt.
Passagen suchen
Semantische Suche und klassische Stichwortsuche finden gemeinsam die Abschnitte, die wahrscheinlich zur Frage passen.
Treffer neu sortieren
Ein Reranker bewertet die engere Auswahl genauer. Unpassende oder weniger hilfreiche Treffer rutschen nach hinten.
Antwort mit Quellen erzeugen
Das Sprachmodell bekommt nur die besten Passagen und formuliert daraus eine Antwort – idealerweise mit Fundstellen und einer ehrlichen Unsicherheit.
Quellen→Chunks→Embeddings→Suche→Reranking→Antwort + Quellen
Die wichtigsten Bausteine
Chunks, Embeddings und Vektoren – ohne Fachchinesisch.
Diese Begriffe beschreiben keine Magie, sondern einzelne Arbeitsschritte einer Suchmaschine für Bedeutung.
Tokens
Die kleinen Bausteine, in denen ein Sprachmodell Text verarbeitet.
Ein Token ist ungefähr ein Wortteil. Lange Dokumente bestehen aus sehr vielen Tokens. Würde man bei jeder Frage sämtliche Dokumente mitsenden, wäre das langsam, teuer und unübersichtlich. RAG wählt deshalb zuerst die relevanten Ausschnitte aus.
Chunks
Sinnvolle Textabschnitte, die einzeln gefunden werden können.
Ein Chunk kann ein Absatz, ein Kapitelteil, eine Tabellenzeile oder eine Produktbeschreibung sein. Er sollte groß genug für den Zusammenhang und klein genug für eine präzise Suche sein. Die ideale Größe hängt vom Dokumenttyp und der Frage ab – eine starre Zahl funktioniert selten überall.
Embeddings
Zahlenfolgen, die sprachliche Bedeutung vergleichbar machen.
Ein Embedding-Modell übersetzt Text in einen Punkt in einem mehrdimensionalen Bedeutungsraum. Ähnliche Inhalte liegen dort näher beieinander. So kann das System auch „Kündigungsfrist“ finden, wenn jemand nach „Wie lange vorher muss ich absagen?“ fragt. Ein Embedding ist keine Verschlüsselung; sensible Daten brauchen weiterhin Schutz.
Vektordatenbank
Der Suchindex für Embeddings und ihre Metadaten.
Sie speichert die Bedeutungsvektoren und findet schnell ähnliche Passagen. Häufig liegt sie neben oder direkt in einer normalen Datenbank. Zur Passage gehören außerdem Titel, Dokument, Abteilung, Versionsdatum und Zugriffsrechte.
Hybrid Search
Bedeutungssuche plus exakte Stichwortsuche.
Semantische Suche versteht Sinnzusammenhänge. Klassische Volltextsuche wie BM25 ist stark bei Artikelnummern, Namen und exakten Begriffen. Hybrid Search verbindet beide Trefferlisten, damit weder Bedeutung noch Präzision verloren gehen.
Reranking
Eine zweite, genauere Bewertung der Suchtreffer.
Die erste Suche arbeitet schnell und breit. Der Reranker vergleicht danach die wichtigsten Kandidaten genauer mit der Frage. So landet die tatsächlich hilfreiche Passage eher ganz oben, bevor das Sprachmodell antwortet.
Ein konkretes Beispiel
Warum gute RAG-Suche mehr als ein Chatfenster ist.
Ein Servicetechniker sucht nicht nach einem allgemeinen Thema, sondern nach einer belastbaren Antwort für eine konkrete Anlage. Das System muss exakte Kennungen und inhaltliche Zusammenhänge gleichzeitig beherrschen.
Die Frage
„Welches Schmiermittel braucht MH-240 bei der 500-Stunden-Wartung und welche Sicherheitsvorbereitung gilt?“
Die Suche kombiniert zwei Stärken
Die Stichwortsuche erkennt die exakte Kennung „MH-240“. Die semantische Suche findet Passagen zu Wartungsintervall, Schmierung und Druckentlastung, auch wenn die Formulierung abweicht.
Metadaten grenzen ein
Nur Dokumente zur Produktlinie MH, freigegebene Serviceunterlagen und die jeweils gültige Version werden berücksichtigt.
Der Reranker prüft genauer
Ein allgemeiner Schmierplan wird niedriger bewertet als die konkrete Passage im Wartungshandbuch der Anlage.
Die Antwort bleibt überprüfbar
Das System nennt Schmiermittel und Vorbereitung, verlinkt das gültige Handbuch und weist bei widersprüchlichen Quellen auf die notwendige Prüfung hin.
Best Practices aus der Umsetzung
Die Qualität entsteht vor der Antwort.
Die Wahl des Sprachmodells ist nur ein Baustein. In der Praxis entscheiden Quellen, Chunking, Suchlogik, Berechtigungen und Tests darüber, ob ein RAG-System nützlich oder nur beeindruckend aussieht.
- 01
Mit einer echten Frage starten
Nicht „Wir brauchen eine Vektordatenbank“, sondern: Welche wiederkehrenden Fragen kosten heute Zeit, Geld oder Qualität? Daraus entsteht der erste klar messbare Anwendungsfall.
- 02
Quellenqualität vor Modellgröße
Veraltete, widersprüchliche oder schlecht gescannte Dokumente werden durch ein größeres Modell nicht wahr. Erst bereinigen, versionieren und Zuständigkeiten klären.
- 03
Nach Struktur statt nach Zeichen schneiden
Überschriften, Absätze, Tabellen, FAQ-Paare und Produktgrenzen sind bessere Trennstellen als blind alle 500 Zeichen zu teilen. Etwas Überlappung kann Zusammenhänge erhalten.
- 04
Metadaten konsequent mitführen
Abteilung, Dokumenttyp, Produkt, Sprache, Datum, Version und Berechtigung machen aus einer groben Suche ein steuerbares Wissenssystem.
- 05
Semantisch und exakt suchen
Produktcodes, Vertragsnummern und Eigennamen brauchen oft Stichwortsuche. Freie Fragen profitieren von Embeddings. In vielen Projekten ist die Kombination stärker.
- 06
Berechtigungen vor der Antwort prüfen
Das System darf vertrauliche Passagen nicht erst finden und danach verstecken. Zugriffsfilter gehören möglichst früh in den Suchprozess.
- 07
Quellen zeigen und Nichtwissen erlauben
Eine gute Antwort nennt ihre Fundstellen. Gibt es keine ausreichende Grundlage, soll der Assistent nachfragen oder offen sagen, dass keine belastbare Antwort vorliegt.
- 08
Mit echten Testfragen evaluieren
Ein fester Katalog aus typischen, schwierigen und bewusst unbeantwortbaren Fragen prüft Trefferqualität, Quellen, Vollständigkeit und erlaubtes Verhalten vor jedem Rollout.
- 09
Aktualisierung und Löschung mitplanen
Neue Versionen müssen neu indexiert, alte Inhalte entfernt und gelöschte Quellen zuverlässig aus dem Suchindex gelöscht werden. Sonst antwortet das System aus der Vergangenheit.
- 10
Komplexität erst bei Bedarf erhöhen
Reranker, Agenten oder Knowledge Graphs sind wertvoll, wenn Messwerte ihren Nutzen zeigen. Ein sauberer Basispilot ist oft der bessere Ausgangspunkt als eine überladene Architektur.
Nicht jedes Problem ist ein RAG-Problem
RAG, Dateiupload, Fine-Tuning oder Datenbank?
Die beste Architektur ist die einfachste, die den konkreten Fall zuverlässig löst. Diese Einordnung verhindert unnötige Komplexität.
| Ansatz | Besonders sinnvoll für | Wichtige Grenze |
|---|---|---|
| RAG-System | Viele oder regelmäßig aktualisierte Dokumente, wiederkehrende Fragen und nachvollziehbare Quellen. | Benötigt saubere Quellen, Suchqualität, Rechtekonzept und laufende Pflege. |
| Datei direkt in Chat hochladen | Einmalige Analyse eines bekannten, überschaubaren Dokuments. | Für viele Quellen, wiederkehrende Nutzung und differenzierte Rechte schnell unhandlich. |
| Fine-Tuning | Stil, Format oder ein wiederkehrendes Antwortverhalten trainieren. | Keine ideale Wissensdatenbank; Quellen lassen sich schwerer aktuell halten oder belegen. |
| Klassische Datenbank / SQL | Exakte, strukturierte Fakten wie Status, Preise, Mengen oder Kundendaten. | Freie Texte und unterschiedlich formulierte Fragen brauchen zusätzliche Suchlogik. |
| Knowledge Graph / GraphRAG | Komplexe Beziehungen und Fragen über mehrere miteinander verbundene Fakten. | Mehr Modellierungs-, Betriebs- und Evaluationsaufwand; nicht für jeden Einstieg nötig. |
RAG passt häufig, wenn …
- viele Dokumente oder Datenquellen durchsucht werden,
- dieselben Wissensfragen regelmäßig wiederkehren,
- Quellen laufend aktualisiert werden,
- Antworten belegbar und rechtebasiert sein sollen,
- unterschiedliche Formulierungen zum selben Wissen führen sollen.
Einfacher ist oft besser, wenn …
- nur ein bekanntes Dokument einmalig analysiert wird,
- die Antwort exakt aus strukturierten Daten berechnet werden kann,
- Quellen ungepflegt oder nicht freigegeben sind,
- es noch keinen klaren Nutzer und keine echten Fragen gibt,
- ein kritischer Prozess keine verlässliche menschliche Kontrolle besitzt.
Einsatz im Unternehmen
Wo ein RAG-Wissenssystem konkret helfen kann.
Der größte Nutzen entsteht dort, wo Menschen dieselben Informationen immer wieder suchen, erklären, prüfen oder in andere Prozesse übertragen.
Interner Wissensassistent
Mitarbeitende fragen nach Richtlinien, Abläufen oder Zuständigkeiten und erhalten eine verständliche Antwort mit Verweis auf die Originalquelle.
Technik und Service
Handbücher, Wartungspläne, Fehlercodes und Serviceberichte werden gemeinsam durchsuchbar – auch wenn Nutzer anders formulieren als das Dokument.
Vertrieb und Angebote
Freigegebene Leistungsbausteine, Referenzen, Produktdetails und Altangebote liefern Kontext für schnellere, konsistentere Angebotsentwürfe.
Qualitätsmanagement
SOPs, Prüfanweisungen und Verfahrensdokumente werden leichter auffindbar. Versionsstand und Quelle bleiben sichtbar.
Onboarding
Neue Kolleginnen und Kollegen können wiederkehrende Fragen selbst stellen, ohne dass erfahrene Teammitglieder jedes Detail erneut erklären müssen.
Kundenservice und Chatbot
Ein Assistent beantwortet freigegebene Produkt- und Servicefragen. Bei fehlender Evidenz oder sensiblen Fällen übergibt er an einen Menschen.
Telefon- und Voice-Assistent
Auch ein Sprachassistent kann dieselbe geprüfte Wissensbasis verwenden, statt Antworten allein aus dem allgemeinen Modellwissen zu erzeugen.
Dokumenten- und Archivrecherche
Protokolle, Verträge, Projektdokumente und Entscheidungen lassen sich über natürliche Fragen durchsuchen und bis zur Fundstelle zurückverfolgen.
Datenschutz und Sicherheit
Zugriff auf Wissen braucht klare Leitplanken.
RAG verarbeitet häufig wertvolles internes Wissen. Datenschutz ist deshalb keine spätere Checkbox, sondern Teil der Architektur. Die konkrete Lösung richtet sich nach Schutzbedarf, IT-Landschaft und den organisatorischen Vorgaben Ihres Unternehmens.
Rollen und Rechte
Suchergebnisse werden nach Nutzer, Team oder Dokumentklasse gefiltert.
Datenstandort
Cloud, EU-Hosting, eigene Infrastruktur oder hybride Varianten werden passend bewertet.
Protokollierung
Fragen, Treffer und Systemfehler können für Qualität und Missbrauchserkennung nachvollziehbar erfasst werden.
Löschung und Versionen
Gelöschte oder ersetzte Inhalte müssen auch aus Suchindex, Cache und Backups nach dem vorgesehenen Prozess verschwinden.
Modell- und Anbieterwahl
Schutzbedarf, Vertrag, Datenverarbeitung und Exportierbarkeit bestimmen die technische Auswahl.
Menschliche Freigabe
Rechtliche, medizinische, finanzielle oder sicherheitskritische Antworten brauchen definierte Prüf- und Eskalationswege.
Vom Pilot zum produktiven System
So entsteht ein RAG-System mit überschaubarem Risiko.
Wir starten bewusst klein, messen die Qualität und erweitern erst dann. So zeigt der Pilot, ob die Datenlage und der konkrete Anwendungsfall den Aufwand rechtfertigen.
Readiness Check
Fragen, Quellen und Risiken klären
Wir inventarisieren Wissensquellen, Nutzergruppen, Rechte und die 20 bis 50 wichtigsten Testfragen. Das Ergebnis ist ein realistischer Pilotvorschlag.
Pilot
Einen klaren Wissensbereich umsetzen
Eine begrenzte Quellensammlung wird aufbereitet, indexiert und in einem nutzbaren Assistenten getestet – inklusive Quellen und erster Qualitätsmessung.
Härtung
Trefferqualität und Rechte absichern
Chunking, Hybrid Search, Metadaten, Reranking, Fehlverhalten und Berechtigungen werden anhand echter Fragen verbessert und dokumentiert.
Rollout
In Prozesse integrieren und betreiben
Nach erfolgreichem Pilot folgen weitere Quellen, Nutzergruppen, Schnittstellen, Monitoring sowie klare Verantwortlichkeiten für Aktualisierung und Pflege.
Unser Ansatz
Technisch fundiert, pragmatisch eingeführt.
Brose Media bietet RAG-Systeme als neue, fokussierte Leistung an. Wir versprechen keine unfehlbare „Unternehmens-KI“, sondern entwickeln einen überprüfbaren Pilot mit echten Fragen, klaren Quellen und messbarer Trefferqualität. Wo ein einfacherer Ansatz reicht, sagen wir das offen.
Häufige Fragen
RAG-Systeme verständlich beantwortet.
Was bedeutet RAG einfach erklärt?
RAG steht für Retrieval Augmented Generation. Das System sucht zuerst passende Informationen in freigegebenen Unternehmensquellen und gibt diese Fundstellen anschließend an ein Sprachmodell. Das Modell formuliert daraus eine verständliche Antwort.
Verhindert RAG Halluzinationen vollständig?
Nein. RAG kann erfundene oder unbelegte Antworten deutlich reduzieren, aber nicht vollständig ausschließen. Suchfehler, schlechte Quellen oder falsche Schlussfolgerungen bleiben möglich. Deshalb sind Quellenangaben, Tests, klare Grenzen und menschliche Freigaben bei kritischen Themen wichtig.
Brauchen wir für jedes Dokument ein RAG-System?
Nein. Für ein einzelnes bekanntes Dokument oder eine einmalige Auswertung ist das direkte Hochladen oft einfacher. RAG lohnt sich vor allem bei vielen Quellen, häufigen Fragen, wechselnden Dokumenten oder mehreren Nutzergruppen.
Was sind Embeddings?
Embeddings sind Zahlenfolgen, die die Bedeutung eines Textes mathematisch darstellen. Dadurch kann eine Suche inhaltlich ähnliche Passagen finden, auch wenn Frage und Dokument nicht dieselben Wörter verwenden.
Was ist die richtige Chunk-Größe?
Es gibt keine universelle Zahl. Ein FAQ-Eintrag, eine Tabelle und ein technisches Kapitel brauchen unterschiedliche Grenzen. Entscheidend ist, dass der Chunk genug Kontext enthält, aber präzise auffindbar bleibt. Die Qualität wird mit realen Testfragen gemessen.
Kann ein RAG-System Zugriffsrechte berücksichtigen?
Ja, wenn Berechtigungen sauber in der Architektur und in den Metadaten abgebildet werden. Ein Mitarbeiter sollte nur Dokumente finden können, die er auch im Quellsystem sehen darf. Das muss technisch getestet und organisatorisch gepflegt werden.
Welche Datenquellen können angebunden werden?
Typische Quellen sind PDFs, Office-Dateien, Wikis, SharePoint, Notion, Websites, FAQ, Produktdatenbanken, Tickets und freigegebene E-Mails. Welche Anbindung sinnvoll ist, hängt von Datenqualität, Rechten und Aktualisierungsbedarf ab.
Muss das System in der Cloud laufen?
Nicht zwingend. Je nach Schutzbedarf, Budget und IT-Landschaft kommen europäische Cloud-Dienste, eigene Infrastruktur oder Mischformen infrage. Wichtig ist eine konkrete Datenschutz- und Sicherheitsprüfung statt eines pauschalen Versprechens.
Wie startet ein RAG-Projekt sinnvoll?
Mit einem begrenzten Pilot: eine Nutzergruppe, ein klarer Fragenkatalog und eine überschaubare Quellensammlung. Erst wenn Trefferqualität, Nutzen, Rechte und Pflege funktionieren, wird auf weitere Abteilungen oder Quellen erweitert.
Nächster Schritt
Finden wir heraus, ob RAG für Ihr Wissen der richtige Weg ist.
Bringen Sie zwei oder drei typische Wissensfragen und einen Überblick über Ihre Quellen mit. Im Erstgespräch ordnen wir ein, ob ein RAG-Pilot sinnvoll ist – oder ob eine einfachere Lösung besser passt.