31. Oktober 2026 · 5 Min. Lesezeit

Wissensmanagement mit KI: Firmenwissen endlich auffindbar machen

Handbücher, Richtlinien und Erfahrung: So machen Sie Unternehmenswissen per KI-Assistent zugänglich, mit Quellenangaben und passenden Zugriffsrechten.

In vielen Unternehmen ist das Wissen da, nur findet es niemand. Ein interner KI-Assistent kann Fragen in normaler Sprache beantworten und auf die Quelle verweisen.

Wo es besonders hilft

  • Einarbeitung neuer Mitarbeitender
  • Technische Dokumentation und Anleitungen
  • Interne Richtlinien und Abläufe
  • Support-Teams mit vielen Spezialfragen

Erst aufräumen, dann automatisieren

Veraltete und widersprüchliche Dokumente führen zu schlechten Antworten. Legen Sie fest, welche Quellen gelten, wer sie pflegt und wie alte Versionen entfernt werden.

Zugriffsrechte beachten

Der Assistent darf niemandem etwas zeigen, das diese Person sonst nicht sehen dürfte. Das gilt besonders für Personal- und Finanzthemen. Diese Regel gehört von Anfang an in die Architektur.

Vertrauen schaffen

Quellenangaben sind entscheidend, damit Antworten überprüfbar bleiben. Sagt das System ehrlich, wenn es etwas nicht weiß, steigt das Vertrauen deutlich stärker als durch jede geratene Antwort.

Wie ein Wissensassistent zu seiner Antwort kommt

Viele Wissensassistenten arbeiten nach dem RAG-Prinzip. Das Sprachmodell lernt Ihre Dokumente dabei nicht auswendig. Stattdessen werden sie in Abschnitte zerlegt und durchsuchbar gemacht. Stellt jemand eine Frage, sucht das System die passenden Abschnitte und das Modell formuliert daraus eine Antwort. Daraus folgt eine wichtige Erkenntnis: Viele schlechte Antworten sind in Wahrheit Suchprobleme, weil der richtige Abschnitt nie beim Modell angekommen ist.

Die Aufbereitung beeinflusst die Qualität deshalb erheblich. Wird eine Anleitung mitten in einem Arbeitsschritt getrennt, verliert der Abschnitt seine Bedeutung. Tabellen und Abbildungen aus PDF-Dateien gehen beim Einlesen oft teilweise verloren. Hilfreich ist, jeden Abschnitt mit Metadaten zu versehen: Dokumenttitel, Kapitel, Produkt, Version und Gültigkeit. Bei einer Frage zur Maschine einer bestimmten Baureihe kann das System so gezielt die passende Dokumentation heranziehen.

Mit Testfragen statt nach Bauchgefühl arbeiten

Sammeln Sie vor dem Start Fragen, die im Alltag wirklich gestellt werden, zum Beispiel aus dem Support oder von neuen Kolleginnen und Kollegen. Formulieren Sie sie so ungenau, wie Menschen tatsächlich fragen. „Die Pumpe macht wieder dieses Geräusch“ ist ein realistischerer Test als die korrekte Fachbezeichnung einer Störung. Notieren Sie zu jeder Frage die richtige Antwort und die maßgebliche Quelle.

  • Findet das System die richtige Quelle?
  • Gibt die Antwort den Inhalt der Quelle korrekt wieder?
  • Sagt das System ehrlich, wenn die Antwort nicht in den Unterlagen steht?
  • Werden Unterschiede zwischen Produktversionen beachtet?
  • Bleiben gesperrte Inhalte für nicht berechtigte Testnutzer verborgen?

Wiederholen Sie diesen Test nach jeder größeren Änderung an Dokumenten, Einstellungen oder Modell. So erkennen Sie, ob eine Verbesserung an einer Stelle woanders einen Rückschritt auslöst.

Erfahrungswissen sichtbar machen

Manches steht in keinem Dokument, etwa welche Einstellung bei einer alten Anlage wirklich funktioniert oder an wen man sich bei einem Sonderfall wendet. Ein Assistent kann dieses Wissen nicht herbeizaubern. Die Lücken lassen sich aber gezielt schließen. Werten Sie aus, zu welchen Fragen keine Antwort gefunden wurde. Diese Liste zeigt, welches Wissen fehlt. Fachleute können dann kurze, geprüfte Antworten ergänzen, ohne lange Handbücher zu schreiben.

Besonders sinnvoll ist das, bevor erfahrene Mitarbeitende in den Ruhestand gehen. Ein kurzes Gespräch zu typischen Störungen lässt sich aufnehmen, verschriftlichen und nach fachlicher Durchsicht in die Wissensbasis übernehmen, sofern die betroffene Person zustimmt. Ohne diese Durchsicht sollten Einzelmeinungen nicht zur verbindlichen Anweisung werden.

Pflege im Alltag verankern

Machen Sie Aktualisierungen zum Teil bestehender Abläufe. Wird eine Arbeitsanweisung geändert, sollte die neue Fassung automatisch in den Bestand gelangen und die alte daraus verschwinden. Ein einfacher Rückmeldeknopf an jeder Antwort liefert Hinweise, welche Quelle zu korrigieren ist. Jedes Dokument sollte außerdem eine zuständige Person und ein Prüfdatum haben, damit überfällige Inhalte auffallen. Sinnvoll ist auch ein regelmäßiger Blick auf die häufigsten Fragen, denn sie zeigen, welche Inhalte besondere Sorgfalt verdienen. So bleibt die Pflege auf das konzentriert, was im Alltag wirklich gebraucht wird.

Wiki, Suche oder Assistent?

LösungStärkeGrenze
Gepflegtes WikiKlare Struktur und nachvollziehbare, geprüfte InhalteErfordert Pflege, und Nutzer müssen wissen, wo sie suchen
UnternehmenssucheFindet Dokumente in mehreren SystemenLiefert Treffer, die Antwort muss man selbst herauslesen
KI-Assistent mit QuellenBeantwortet Fragen in normaler Sprache und verweist auf BelegeAbhängig von Datenbasis und Aufbereitung, Antworten müssen prüfbar bleiben
Fachkollege als AnsprechpersonBringt Erfahrung und Urteilsvermögen einBegrenzte Zeit, Wissen ist bei Abwesenheit nicht verfügbar

Vor dem Start des Pilotbetriebs

Typische Fehler

Alle Laufwerke auf einmal anbinden

Damit gelangen auch Dubletten, Entwürfe und vertrauliche Unterlagen in den Bestand. Beginnen Sie mit einem geprüften Themenbereich und erweitern Sie ihn kontrolliert.

Bei schlechten Antworten sofort das Modell wechseln

Die Ursache liegt häufig bei Suche, Abschnittsbildung oder Quelle. Prüfen Sie zuerst, welche Abschnitte tatsächlich gefunden wurden und ob sie die Antwort enthalten.

Nach dem Start keine Zuständigkeit festlegen

Inhalte veralten, und das Vertrauen sinkt schrittweise. Benennen Sie je Themenbereich jemanden, der Rückmeldungen auswertet und Quellen aktuell hält.

Häufige Fragen

Was ist RAG im Wissensmanagement?

RAG bedeutet, dass ein System vor der Antwort passende Abschnitte aus Ihren Dokumenten sucht und das Modell diese als Grundlage nutzt. So lassen sich Antworten mit Quellen belegen, und Inhalte können aktualisiert werden, ohne das Modell neu zu trainieren.

Werden unsere Dokumente dabei zum Training verwendet?

Das hängt vom Anbieter und Vertrag ab. Klären Sie diesen Punkt vor dem Start und prüfen Sie auch, wo Daten gespeichert werden und wer darauf zugreifen kann.

Kann der Assistent auch aus SharePoint oder einem Wiki lesen?

In vielen Fällen ja, über vorhandene Konnektoren oder Schnittstellen. Wichtig ist, dass die Zugriffsrechte der Quelle auch bei der Antwort berücksichtigt werden.

Von Patrick Thomas, KI Sidekick. Dieser Artikel ersetzt keine Rechts- oder Steuerberatung.

Bereit für den ersten Schritt?

Im kostenlosen Erstgespräch finden wir heraus, wo Automatisierung bei Ihnen den größten Hebel hat.

Kostenloses Erstgespräch
Esc