KI-Wissens­da­ten­banken

Ein Sprachmodell allein kennt das eigene Unternehmen nicht. Es weiß nichts über Produkte, Prozesse oder Verträge und erfindet im Zweifel eine Antwort. Retrieval-Augmented Generation, kurz RAG, umgeht das. Das System sucht zuerst die passenden Stellen in den Dokumenten und lässt das Modell erst danach antworten, mit Quellenangabe.

Das lohnt sich, wenn Wissen auf viele Systeme verteilt ist und niemand weiß, wo was steht. Typisch sind Support und Vertrieb, die immer wieder dieselben Fragen anhand von Handbüchern beantworten, oder neue Mitarbeitende, die lange nach Regeln und Abläufen suchen. Wir bauen solche Wissensdatenbanken für interne Richtlinien, technische Dokumentation, Kundenservice oder Verträge und führen sie ein.

Die Aufbereitung entscheidet mehr als das Modell

Wie gut die Antworten werden, hängt weniger vom Sprachmodell ab als davon, was die Suche findet. Deshalb beginnt die Arbeit bei den Quellen: Dateiablagen mit Richtlinien und Verträgen, Wikis mit Prozessbeschreibungen, Ticketsysteme mit gelösten Fällen und Fachsysteme, soweit ihre Daten als Text vorliegen.

Die Dokumente werden in Abschnitte zerlegt, die für sich verständlich sind. Zu kleine Stücke verlieren den Zusammenhang, zu große machen die Suche ungenau, und Überschriften helfen bei der Aufteilung. Metadaten wie Dokumenttyp, Abteilung, Gültigkeit, Version oder Sprache erlauben es, die Suche gezielt einzugrenzen und veraltete Fassungen auszuschließen. Kopfzeilen, Dubletten und Inhaltsverzeichnisse werden entfernt. Tabellen und gescannte Seiten behandeln wir gesondert, weil sie für die Suche schwerer zu erfassen sind als Fließtext.

Suche: Bedeutung und Stichwort kombinieren

Embeddings wandeln Textstücke in Zahlenfolgen um, die ihre Bedeutung abbilden. So findet die Suche auch Stellen, die dieselbe Aussage mit anderen Worten treffen. Bei Produktnummern, Fachbegriffen, Namen oder Datumsangaben ist dagegen die klassische Stichwortsuche genauer.

Die meisten Lösungen kombinieren deshalb beides zu einer hybriden Suche, deren Ergebnisse zu einer gemeinsamen Rangliste zusammengeführt werden. Ein Reranking sortiert die besten Treffer anschließend mit einem genaueren Verfahren noch einmal neu, bevor das Sprachmodell sie zu sehen bekommt. Welche Kombination passt, entscheiden wir anhand von Testfragen aus dem Unternehmen.

Rechte und Aktualität

Der Assistent darf nur zeigen, was die fragende Person auch im Quellsystem sehen darf. Dafür gibt es zwei Wege. Entweder werden die Berechtigungen zusammen mit den Inhalten in den Index übernommen und bei jeder Suche geprüft, oder das System holt die Daten erst bei der Abfrage im Namen der Person live aus dem Quellsystem.

Beides setzt saubere Rechte voraus. Ein Assistent macht sichtbar, was bisher kaum jemand fand, und zu großzügig freigegebene Ordner und Seiten sollten vor dem Start bereinigt werden. Für die Aktualität gilt: Die Antworten sind höchstens so aktuell wie der Index. Neue, geänderte und gelöschte Dokumente müssen samt Rechten dort ankommen, je nach Quelle laufend oder in festen Abständen.

Wie wir Antworten prüfen und wo sie trotzdem falsch liegen

Jede Aussage sollte auf Dokument und Abschnitt verweisen, den man direkt öffnen kann. Findet das System nichts Passendes, soll es das sagen, statt zu raten. Ob das gelingt, zeigt ein Fragenkatalog mit echten Fragen aus den Fachbereichen, jeweils mit bekannter Quelle und erwarteter Antwort. Wir prüfen getrennt, ob die Suche die richtigen Stellen findet und ob sich die Antwort darauf stützt. Gängige Bewertungsverfahren unterscheiden etwa die Treffgenauigkeit der Suche, die Belegtheit durch die Quellen und die Relevanz der Antwort. Ein neues Modell, ein anderer Prompt oder eine geänderte Aufbereitung kann das Ergebnis verschlechtern, die Tests laufen daher jedes Mal erneut. Im Betrieb zeigen Daumen hoch oder runter und unbeantwortete Fragen, wo Inhalte fehlen oder veraltet sind.

Einige Grenzen bleiben. Die Wissensdatenbank kennt nur, was in den Quellen steht, und alte Fassungen führen zu falschen Antworten, wenn niemand sie kennzeichnet oder entfernt. Stehen in zwei Dokumenten unterschiedliche Angaben, kann das System das anzeigen, aber nicht entscheiden. Metadaten wie Gültigkeit und Version helfen, ersetzen aber keine Verantwortlichen für die Inhalte. Aufgaben wie „Vergleiche alle Verträge dieses Jahres“ löst eine einfache Suche nur begrenzt. Und auch mit Quellenangabe kann eine Antwort falsch sein, bei wichtigen Entscheidungen bleibt der Blick ins Dokument nötig.

Fertige Lösung oder eigene Anwendung

Nicht jede Wissensdatenbank muss selbst gebaut werden. Liegen die Inhalte überwiegend in Microsoft 365, ist Microsoft Copilot der naheliegende Weg. Über Connectors lassen sich weitere Quellen wie Wikis oder Ticketsysteme einbinden, ihre Rechte werden dabei berücksichtigt. Für viele verschiedene Quellsysteme gibt es außerdem Produkte mit vorgefertigten Anbindungen und Rechteprüfung.

Eine eigene RAG-Anwendung ist sinnvoll bei besonderen Dokumentarten, festen Abläufen, strengen Hosting-Vorgaben oder wenn die Antworten in eine Fachanwendung oder ein Kundenportal eingebettet werden sollen. Der Aufwand ist höher, dafür sind Suche, Prompts und Oberfläche frei gestaltbar. Fertige Produkte sind schneller im Einsatz, eigene Anwendungen flexibler, und oft passt eine Kombination. Wir vergleichen die Optionen anhand der Quellen, der Nutzerzahl und der Datenschutzvorgaben. Was beim Einsatz von Sprachmodellen allgemein zu beachten ist, steht im Schwerpunkt zu generativer KI.