Einarbeitung
Frage:
Wie machen wir das hier eigentlich?
Assistent:
Der Assistent zieht die Antwort aus Handbuch, Wiki und alten Tickets - mit Link auf die Stelle, damit neue Kolleginnen die Quelle kennenlernen und nicht nur die Antwort.
Unternehmensdokumente mit KI durchsuchen: interner KI-Assistent mit Quellenangabe
Wissen liegt verteilt in Ablagen, Wikis und Tickets, und gefragt wird die Kollegin, die es weiß. Ein interner KI-Assistent beantwortet Fragen aus Ihren Dokumenten, nennt die Fundstelle und zeigt jedem nur, was er sehen darf.
- Interner KI-Assistent mit Quellen
- Rechte greifen vor der Suche
- Start mit RAG Proof of Value
Ausgangslage
Das Wissen ist da. Es zu finden kostet Zeit.
Dokumente, Wikis, Tickets und Datenbanken wachsen über Jahre in getrennten Systemen. Wer etwas sucht, fragt Kollegen statt Systeme. Drei Muster kehren in fast jedem Unternehmen wieder.
Wissen liegt verstreut
Handbuch im Wiki, Vertrag im DMS, Lösung im alten Ticket, Richtlinie als PDF auf dem Netzlaufwerk. Jede Ablage hat ihre eigene Suche, keine kennt die anderen.
Die Suche dauert
Volltextsuche findet Wörter, nicht die Antwort. Wer den Begriff im Dokument nicht kennt, findet nichts oder zu viel, und am Ende wird jemand gefragt, der eigentlich an etwas anderem arbeitet.
Wissen geht mit Personen
Wer lange dabei ist, weiß, welche Fassung gilt und wo sie liegt. Wechselt diese Person die Stelle oder geht in Rente, fehlt der Weg zum Wissen, auch wenn die Dokumente bleiben.
KI-Wissensmanagement
KI-Wissensmanagement für Unternehmen: Antworten mit Fundstelle
Mitarbeitende fragen in eigenen Worten. Der Assistent sucht in den freigegebenen Quellen und antwortet mit Dokument, Abschnitt und Fassung. Die Oberfläche ist Open WebUI, mit Nutzerverwaltung und Anmeldung über Ihr bestehendes Login.
Angebote und Verträge
Frage:
Was genau haben wir diesem Kunden zugesagt?
Assistent:
Er findet die passende Stelle im Vertrags- und Angebotsbestand und zitiert sie, statt dass jemand fünf Ablagen durchsucht.
Technische Dokumentation
Frage:
Wie war die Konfiguration bei diesem Kunden?
Assistent:
Er antwortet aus Runbooks, Tickets und Doku und zeigt, aus welchem Dokument in welcher Fassung die Antwort stammt.
Support und Servicedesk
Frage:
Hatten wir diesen Fehler schon einmal?
Assistent:
Er durchsucht gelöste Tickets und Wissensartikel und liefert den früheren Lösungsweg samt Ticketnummer.
Richtlinien und Compliance
Frage:
Was ist bei uns erlaubt?
Assistent:
Er antwortet aus der gültigen Fassung Ihrer Richtlinien und nennt das Stand-Datum, statt aus einer alten PDF im Ordner.
Recherche im eigenen Bestand
Frage:
Was haben wir zu diesem Thema schon geschrieben?
Assistent:
Er findet Textbausteine, frühere Projekte und Referenzen. Das ist der Ausgangspunkt für den Entwurf, kein Ersatz für den Autor.
Rechte und Quellen
Berechtigungen greifen vor der Suche, die Quellen bleiben führend
Der häufigste Konstruktionsfehler ist, dem Sprachmodell zu sagen, was es nicht zeigen darf. Das ist keine Zugriffskontrolle, sondern eine Bitte. Rechte greifen an drei Stellen - und nur die mittlere entscheidet.
- 01
Beim Indexieren
Der Connector zieht die Berechtigungen aus der Quelle mit: Eigentümer, direkte Freigaben, Gruppenfreigaben, geerbte Ordnerrechte. Sie werden normalisiert und an jedem Abschnitt hinterlegt - nicht nur am Dokument, denn abgefragt werden Abschnitte.
- 02
Vor der Vektorsuche
Hier fällt die Entscheidung. Aus der Anmeldung des Benutzers werden seine Gruppen aufgelöst und daraus ein zwingender Suchfilter gebaut. Die Datenbank bekommt die Anfrage nur mit diesem Filter. Was der Benutzer nicht sehen darf, ist kein schlechterer Treffer - es ist gar kein Treffer.
- 03
Beim Zitieren
Vor der Ausgabe werden die gefundenen Stellen erneut gegen die Quelle geprüft. Zwischen Indexlauf und Anfrage kann eine Freigabe zurückgezogen worden sein. Diese zweite Prüfung kostet Millisekunden und fängt genau den Fall ab, der sonst teuer wird.
Aus diesen Systemen kann die Wissensdatenbank gespeist werden
- Netzlaufwerke und Dateiablagen
- Nextcloud und SharePoint
- DMS und Dokumentenarchive
- Wikis und Handbücher
- Tickets und Service-Dokumentation
- Datenbanken und APIs
Die Quellen bleiben führend. Konnektoren übernehmen Inhalte, Versionen und Freigaben und aktualisieren den Suchindex nach einem definierten Zeitplan. Gruppenzugehörigkeiten werden zur Laufzeit aus Ihrem Verzeichnisdienst gelesen, nicht beim Indexieren eingefroren. Ein Abteilungswechsel wirkt mit der nächsten Anfrage; der Zwischenspeicher von wenigen Minuten lässt sich bei kritischen Rollenänderungen gezielt verwerfen.
- AnmeldungGruppen aus dem Verzeichnisdienst
- Suchraumnur freigegebene Abschnitte
- Zitaterneut gegen die Quelle geprüft
Nachweis und Mitbestimmung
Drei Bauweisen, drei Ergebnisse
| Wo die Prüfung sitzt | Was passiert, wenn ein Recht entzogen wird | Belastbar? |
|---|---|---|
| Im Prompt ("zeige nichts aus Ordner X") | Nichts. Der Abschnitt liegt bereits im Kontext des Modells und kann durch Umformulieren der Frage herauskommen. | Nein |
| Nach der Suche, als Filter auf der Trefferliste | Der Treffer verschwindet aus der Liste - aber er war bereits abgerufen, und die Zahl der Treffer verrät, dass es etwas gibt. | Teilweise |
| Vor der Suche, als Bedingung der Abfrage | Der Abschnitt ist außerhalb des Suchraums. Er kann nicht abgerufen, nicht gezählt und nicht erschlossen werden. | Ja |
- Die Datenschutzkonferenz (DSK) hat am 17. Oktober 2025 eine Orientierungshilfe zu RAG-Systemen veröffentlicht und darin unter anderem Rechte- und Rollenkonzepte sowie Zugriffsbeschränkungen auf die Vektordatenbank empfohlen. Wir bauen entlang dieser Linie - und legen die Architektur offen, damit Ihr Datenschutzbeauftragter sie prüfen kann, statt sie glauben zu müssen. RAG mit Berechtigungen
- Ein Assistent, der Anfragen protokolliert, löst nach § 87 Abs. 1 Nr. 6 BetrVG ein Mitbestimmungsrecht aus, unabhängig von der Absicht. Bewährt hat sich: Betriebsrat vor der Auswahl einbeziehen, nur protokollieren, was der Betrieb braucht, nur aggregiert auswerten und das Ergebnis in einer Betriebsvereinbarung festhalten. Wir liefern die technische Beschreibung dafür und ersetzen keine Rechtsberatung. KI-Assistent und Betriebsrat
Vorgehen und Preis
Vom Proof of Value zum produktiven Assistenten
Der Engpass ist selten das Modell. Er liegt bei den Quellen, den Rechten und der Frage, welche Fassung gilt. Deshalb beginnt der Weg mit einem abgegrenzten Bestand.
Schritt 1
RAG Proof of Value
Ein abgegrenzter Wissensbereich wird durchsuchbar gemacht und an 40 bis 60 Referenzfragen mit Quellen geprüft. Sie erhalten einen Qualitätsbericht und eine begründete Empfehlung, ob sich der Ausbau lohnt. Der Preis wird beim produktiven Wissensassistenten angerechnet.
ab 9.900 € netto
Schritt 2
Produktiver Wissensassistent
Quellen anbinden, Rechtemodell aus dem Verzeichnisdienst, Inhalte aufbereiten, Open WebUI mit Ihrem Login, Testfragen und Abnahme in der Zielumgebung.
ab 34.900 € netto
Enthalten
- Ein Anwendungsfall mit bis zu drei bestätigten Standardquellen
- Eine SSO-Anbindung, RBAC und Ingestion-Pipeline mit Vector Store
- Chat-Oberfläche, Eval-Framework und vereinbarter Referenztestsatz
- Staging und Produktion, Logging und Observability
- Technische Dokumentation, Key-User-Schulung und Betriebsübergabe
Details zum Umfang
Ergebnis und Prüfung
- Abnahme der vereinbarten Funktions-, Quellen-, Berechtigungs- und Betriebstests in der Zielumgebung.
Separat zu vereinbaren
- Neuaufbau einer GPU-/KI-Plattform, beliebige Spezialadapter und HA · Weitere Fachanwendungen und laufender Betrieb
- Lieferzeit
- 4–8 Wochen
Einen internen Wissensassistenten auf einer geeigneten vorhandenen Plattform produktiv einführen.
Schritt 3
Betrieb und Qualität
Neue Dokumente werden automatisch nachgezogen, Antwortqualität, Kosten und Fehler regelmäßig gemessen. Sie erhalten Infrastruktur-Code, Runbooks und Schulung; der Betrieb durch uns ist eine Option, die Selbstübernahme ein dokumentierter Pfad.
ab 1.990 € netto / Monat
Konditionen und Hinweise
Die Lieferzeit beginnt nach Bereitstellung der vereinbarten Daten, Zugänge und Ansprechpartner. Der verbindliche Umfang und Preis stehen im Angebot. Hardware, Hosting, Modellverbrauch, Lizenzen und laufender Betrieb werden gesondert ausgewiesen. Folgeprojekte werden auf Basis wiederverwendbarer Ergebnisse kalkuliert. Den Pilotpreis rechnen wir bei Beauftragung der produktiven Einführung an; ein verpflichtender Paketdurchlauf ist nicht vorgesehen. Alle Preise verstehen sich netto zuzüglich gesetzlicher Umsatzsteuer. Die Angebote richten sich an Unternehmen.
Grenzen
Wann sich ein interner Assistent nicht lohnt
Wir bauen lieber ein kleineres System, das trägt, als ein großes, das nach drei Monaten niemand mehr öffnet.
Das Wissen steckt in Köpfen, nicht in Dokumenten
- Bevor ein Wissensassistent Antworten liefern kann, muss das Wissen erfasst und geprüft werden. Unser Wissenstransfer-Pilot verarbeitet Ihre Interviews und Unterlagen mit fachlicher Freigabe. Ihr Team kann weitere Inhalte selbst ergänzen.
Niemand weiß, welche Fassung gilt
- Wenn drei Versionen desselben Handbuchs kursieren, macht ein Assistent die Verwirrung nur schneller abrufbar. Erst aufräumen, dann anbinden.
Die Rechte sind ungeklärt
- Ohne saubere Gruppen und Zuständigkeiten lässt sich nicht sagen, wer was sehen darf. Das ist Organisationsarbeit, die kein System abnimmt.
Es geht um wenige, immer gleiche Fragen
- Dann sind eine gute FAQ-Seite oder ein Formular billiger und schneller. Ein Assistent lohnt, wo die Fragen vielfältig und die Quellen zahlreich sind.
Ein Assistent macht schlechte Quellen nicht besser, er macht nur schneller sichtbar, dass sie schlecht sind. Trägt die Dokumentation nicht, raten wir vom Projekt ab.
Alternative
Und was ist mit Microsoft 365 Copilot?
Copilot und ein eigener Assistent lösen verwandte Aufgaben unter verschiedenen Voraussetzungen. Die Entscheidung hängt vor allem davon ab, wo Ihr Wissen liegt.
Nehmen Sie Copilot, wenn
- Ihr relevantes Wissen praktisch vollständig in Microsoft 365 liegt - SharePoint, OneDrive, Teams, Exchange.
- Ihre Berechtigungen dort bereits sauber gepflegt sind. Copilot erbt sie, das ist seine Stärke.
- Sie ohnehin M365-Lizenzen haben und die Zusatzlizenz pro Kopf für Sie aufgeht.
- Die Verarbeitung in der Microsoft-Cloud für Ihre Daten vertretbar ist.
Nehmen Sie einen eigenen Assistenten, wenn
- Ihr Wissen verteilt liegt - Nextcloud, ein DMS, ein Wiki, Dateiablagen, ein ERP.
- Berufsgeheimnis, Betriebsgeheimnisse oder Vertragslage die Verarbeitung außerhalb Ihrer Kontrolle ausschließen.
- Sie das Modell selbst wählen oder wechseln wollen, statt es gestellt zu bekommen.
- Sie nicht pro Kopf zahlen wollen, weil nur ein Teil der Belegschaft das System braucht.
- Sie beim Anbieterwechsel Katalog, Konfiguration und Index herausbekommen wollen.
Beides schließt sich nicht aus. Es gibt Häuser, die Copilot für die Office-Arbeit nutzen und daneben einen eigenen Assistenten für die Bestände betreiben, die dort nicht hingehören. Zur Einordnung: Copilot erreicht externe Quellen über Connectors. Für die üblichen Quellenarten - Confluence, Wiki, Dateifreigaben, SQL, CRM - sind das indexierende Connectors, Ihre Inhalte liegen danach also zusätzlich im Microsoft-Index. Für Nextcloud gibt es keinen fertigen Connector, und einen indexierenden selbst zu bauen ist der aufwendige Weg.
Umsetzung
Was technisch dahintersteckt
Technisch ist das Retrieval-Augmented Generation (RAG): Die Antwort entsteht aus den abgerufenen Abschnitten, nicht aus Trainingswissen, deshalb kann sie die Fundstelle nennen. Die Bausteine sind offen und einzeln austauschbar:
Die Bausteine
- Qdrant: VektordatenbankSpeichert die Abschnitte als Vektoren und findet die inhaltlich passenden, auch wenn die Frage anders formuliert ist als der Text.
- LiteLLM: Modell-GatewayEin Zugang für alle Modelle: europäische wie Mistral, lokale oder beides. Wechseln, ohne die Anwendung anzufassen.
- Langfuse: AuswertungZeigt, was gefragt wird, was es kostet und wo Antworten schwach sind. Ohne Messung bleibt Qualität Gefühlssache.
- Open WebUI: OberflächeDie Chat-Oberfläche für Ihre Mitarbeitenden, mit Nutzerverwaltung und Anbindung an Ihr bestehendes Login.
Einsatzort und Praxis
- KI-Plattform ansehenGehostet in Deutschland: Open WebUI mit Wissensbasen und Modellen, ohne eigene Hardware.
- AI Cube ansehenDer Assistent läuft lokal auf Ihrer Hardware, zum Beispiel auf dem AI Cube mit Open WebUI und vorbereitetem Modell im eigenen Netz, oder gehostet in deutschen Rechenzentren.
- Zum AngebotsfinderDenselben Stack setzen wir selbst ein: Der Angebotsfinder auf dieser Website läuft darauf.
Passt vielleicht besser
- Wissens-NavigatorWenn öffentliches oder verbandliches Wissen geführt erschlossen werden soll.
- AgentenWenn nicht nur geantwortet, sondern gehandelt werden soll: Tickets, Workflows, Systeme.
- Service-AssistentWenn Servicewissen zu einer Maschinenfamilie mit Versions- und Quellenzuordnung bereitstehen soll.
- RAG für Berufsgeheimnisträger?Für Kanzleien, Arztpraxen, Notariate & Co. bauen wir den Assistenten lokal - die Daten bleiben im Haus, und wir lassen uns als mitwirkende Person schriftlich verpflichten.
Häufige Fragen zum internen KI-Assistenten
Antworten auf die wichtigsten Fragen
- Eine KI-Wissensdatenbank macht freigegebene Unternehmensquellen über natürliche Sprache auffindbar. Dokumente, Wikis, Tickets, DMS, Dateiablagen oder Datenbanken werden indexiert; bei einer Frage ruft das System passende Abschnitte ab und gibt die Fundstellen aus. Die Originalsysteme bleiben führend, und Berechtigungen müssen vor der Suche greifen.
- Der Einstieg ist der RAG Proof of Value (ab 9.900 € netto): ein abgegrenzter Bestand, geprüft an Referenzfragen. Die produktive Einführung eines Wissensassistenten liegt bei ab 34.900 € netto, der laufende Betrieb mit Qualitätsmessung (Managed LLMOps) bei ab 1.990 € netto / Monat. Den verbindlichen Preis bestimmen Zahl und Art der Quellen, der Zustand der Berechtigungen, der PDF-Anteil, die Zahl unterschiedlicher Sichten und das Betriebsmodell; er steht im Angebot. Hardware, Hosting und Modellverbrauch werden gesondert ausgewiesen.
- Der Proof of Value dauert zwei bis drei Wochen, die produktive Einführung des ersten Anwendungsfalls vier bis acht Wochen, jeweils ab Bereitstellung der vereinbarten Daten, Zugänge und Ansprechpartner. Am Anfang steht eine Bestandsaufnahme: Welche Quellen gibt es, wer darf was sehen, welche Fragen sollen beantwortet werden? Weitere Quellen kommen danach dazu, ohne das System neu zu bauen.
- Beim Indexieren werden die Freigaben aus der Quelle mitgezogen und an jedem Textabschnitt hinterlegt. Vor jeder Suche werden die Gruppen des angemeldeten Benutzers aus dem Verzeichnisdienst aufgelöst und daraus ein zwingender Filter gebaut - die Datenbank sieht die Anfrage nur mit diesem Filter. Vor der Ausgabe werden die Treffer noch einmal gegen die Quelle geprüft, falls zwischenzeitlich eine Freigabe zurückgezogen wurde. Entscheidend ist, dass der Filter vor der Suche sitzt und nicht im Prompt.
- Alle gängigen Formate - unstrukturierte Texte (PDFs, Word-Dokumente, Markdown), semi-strukturierte Daten (JSON, XML), APIs, Datenbanken (SQL, NoSQL), Knowledge Graphs, Confluence, SharePoint und viele mehr. Wir analysieren Ihre spezifischen Datenquellen und entwickeln die passenden Konnektoren.
- Lokal auf Ihrer Hardware, etwa dem AI Cube, oder gehostet in deutschen Rechenzentren. Als Modell dient ein lokal betriebenes Open-Source-Modell oder ein europäisches Modell wie Mistral. Die Anwendung spricht immer mit dem LiteLLM-Gateway, nicht direkt mit dem Modell; ein Wechsel ist deshalb eine Konfigurationsänderung und kein Umbau. Was das Haus verlässt, entscheiden Sie.
- Jede Antwort nennt Dokument, Abschnitt und Fassung, aus der sie stammt; ein Klick genügt zur Prüfung. Findet der Assistent keine belegte Fundstelle, sagt er das, statt zu formulieren. RAG verringert erfundene Antworten, schließt Fehler aber nicht aus. Wie oft der Assistent nichts findet, steht im Qualitätsreport, und die Themenliste daraus ist zugleich Ihre Redaktionsliste.
- Copilot ist der kürzere Weg, wenn Ihr Wissen praktisch vollständig in Microsoft 365 liegt und die Berechtigungen dort gepflegt sind - er erbt sie, das ist seine Stärke. Ein eigener Assistent lohnt, wenn Ihr Wissen verteilt liegt (Nextcloud, DMS, Wiki, Dateiablagen, ERP), wenn Berufs- oder Betriebsgeheimnisse die Verarbeitung außerhalb Ihrer Kontrolle ausschließen, wenn Sie das Modell selbst wählen wollen, oder wenn eine Lizenz pro Kopf nicht aufgeht, weil nur ein Teil der Belegschaft das System braucht.
Bewertungen & Projekte
Was Kunden über die Zusammenarbeit sagen
Von der Wissensdatenbank mit KI-Assistent über die lokale KI-Integration bis zu Datenhoheit und laufendem Betrieb.
KI-Plattform
Wir waren auf der Suche nach einer sicheren, aber trotzdem einfach nutzbaren Alternative zu den großen amerikanischen Anbietern und sind auf WZ-IT gestoßen. WZ-IT hat uns bei der Auswahl der passenden Modelle beraten und die Anbindung für uns umgesetzt. Vorab konnten wir alles in Ruhe auf einer Testinstanz ausprobieren. Heute betreibt WZ-IT Open WebUI für uns auf unserer eigenen Domain, mit komfortablem Microsoft-Login und Open-Source-Modellen, die bei einem deutschen Anbieter gehostet sind. Unser Team kann damit produktiv mit KI arbeiten, ohne auf externe Tools oder Schatten-KI auszuweichen. Die Zusammenarbeit ist unkompliziert, Rückfragen werden schnell und verständlich beantwortet. Mit WZ-IT haben wir außerdem einen Partner an der Seite, mit dem wir weitere KI-Projekte angehen können.
Carl-Frederic KornHead of E-Commerce & Online Marketing, Krüger Dirndl GmbH
Wissensmanagement & KI
Das Wissen aus vielen Jahren Solarbranche steckte im Kopf unseres früheren Geschäftsführers und steckt bis heute in den Köpfen unserer Mitarbeitenden. Wir wollten es sichern, nicht als Ordner voller Notizen, sondern so, dass wir im Alltag Fragen stellen und belastbare Antworten bekommen. WZ-IT hat uns dabei von Anfang an beraten und verschiedene Ansätze und Wissensmanagementsysteme mit uns gegeneinander abgewogen, bevor wir uns entschieden haben. Umgesetzt wurde eine individuelle Wissensdatenbank mit KI-Assistent, die Gespräche, Notizen, Dokumentationen und Handbücher zusammenführt: von der Plattform über das Onboarding unseres Teams bis zur Begleitung im Betrieb. Gespräche werden transkribiert und Fakten extrahiert, wir prüfen und korrigieren alles selbst, bevor es gespeichert wird, denn wir wollen einer KI nicht blind vertrauen. Das System läuft in unserer eigenen Umgebung, die Daten bleiben bei uns. Überrascht hat uns, wie effizient das ging: WZ-IT hat bestehende Open-Source-Software genutzt und gezielt auf unsere Anforderungen erweitert, statt eine teure Eigenentwicklung von Grund auf zu verkaufen, wie es bei IT-Dienstleistern sonst oft üblich ist. Timo und Robin haben unser eigentliches Problem verstanden, die Wissenssicherung beim Generationswechsel, und es Schritt für Schritt umgesetzt: vom Proof of Concept über Aufbau und Validierung mit unseren eigenen Daten bis in den produktiven Betrieb, und dabei alles verständlich erklärt. Als Nächstes wollen wir das auf das Wissen unserer Mitarbeitenden ausweiten, damit auch das nicht an einzelnen Personen hängt.
Joshua von AmelnGeschäftsführer, solarwerkstatt berlin GmbH
Kundenstimmen ansehen
International
Ausgewählte Projekte
- LiveRemote-Access-Plattform für verteilte WasseraufbereitungsanlagenABCO Water Systems · Australien · Secure Access & OT
- 81%AWS-Migration mit deutlich geringeren laufenden KostenEVA Real Estate · VAE · Cloud-Exit & Infrastruktur
- 98%Neue Standorte in Minuten statt Stunden bereitstellennextGYM GmbH · Deutschland · Automatisierung & IoT
WZ-IT plant, entwickelt und betreibt Infrastruktur und Software für Kunden in Deutschland und international. Projekte setzen wir remote um und begleiten sie auch nach dem Go-live im laufenden Betrieb.
Anfrage
Internen KI-Assistenten einordnen lassen
Nennen Sie Wissensquellen, Nutzergruppen und die wichtigsten Fragen, die der Assistent beantworten soll.
- Direkt mit Timo und Robin - kein Vertrieb, kein Sales-Pitch
- Fachliche Einschätzung Ihrer Situation
- Konkrete nächste Schritte für Infrastruktur, Software oder KI
Das Gespräch ist unverbindlich und kostenlos.
Die Beratung von WZ-IT zu unserer Azure-Migration war schon im Erstgespräch fachlich sehr fundiert und völlig unverbindlich - wir haben eine Menge mitgenommen.
Jakob ÖschlbergerInno7 GmbH
Die Beratung von WZ-IT zu unserer Azure-Migration war schon im Erstgespräch fachlich sehr fundiert und völlig unverbindlich - wir haben eine Menge mitgenommen.