[email protected]

Anleitung · Lokale KI für Unternehmen

Open WebUI als lokale KI-Appliance produktiv betreiben

Hinweis zum Inhalt: Versionen, Befehle und Preise können sich ändern. Bitte prüfen Sie kritische Schritte vor dem produktiven Einsatz eigenständig. Dieser Leitfaden ersetzt keine individuelle Fach-, Rechts- oder Steuerberatung.

Open WebUI nicht nur installieren, sondern einsatzbereit erhalten? Der AI Cube verbindet Open WebUI mit lokalem Modell, Härtung, Funktionstest und Ersteinrichtung zu einer vorbereiteten KI-Plattform für Unternehmen. Ohne eigene Hardware gibt es Open WebUI mit in Deutschland bei deutschen Anbietern betriebenen Modellen als KI-Plattform. AI Cube ansehen

Open WebUI ist die Oberfläche, über die Mitarbeitende lokale KI tatsächlich verwenden. Sie ähnelt bekannten KI-Chats, kann mehrere Modelle bereitstellen und verwaltet Wissen, Benutzer, Gruppen und weitere Workspace-Ressourcen. Für den produktiven Betrieb muss die Oberfläche jedoch in eine vollständige Plattform eingebettet werden.

Was Nutzer nach der Einrichtung erhalten

  • Chat mit einem oder mehreren freigegebenen Modellen;
  • Verlauf und Arbeitsbereiche auf der eigenen Plattform;
  • Datei-Uploads und eigene Wissenssammlungen;
  • geteiltes Teamwissen nach Freigabe;
  • Modelle, Prompts und Werkzeuge je nach Rolle;
  • eine einheitliche Oberfläche für lokale und bewusst freigegebene externe Modelle.

Die Möglichkeiten sind nicht gleichbedeutend mit einer fertig integrierten Datenquelle. Nutzer können Wissen in Open WebUI pflegen. Für den automatischen Abgleich gibt es seit 2026 das offizielle Werkzeug oikb (MIT-Lizenz, Stand Oktober 2026 v0.5.0, ab Open WebUI 0.9.6): Es synchronisiert Wissensbasen aus zahlreichen Quellen, darunter Nextcloud und SharePoint, inkrementell einschließlich gelöschter Dateien (Dokumentation). Zugriff wird dabei über die Wissensbasis in Open WebUI gesteuert; eine Übernahme der Dokumentrechte aus der Quelle beschreibt die Dokumentation nicht. Sollen Nutzer nur Abschnitte sehen, die sie auch in der Quelle öffnen dürfen, braucht es weiterhin eine eigene Pipeline mit Berechtigungsprüfung.

Wie eine solche Anbindung aufgebaut wird, zeigt der Leitfaden zu RAG mit Nextcloud, SharePoint und DMS.

Die Plattform unter der Oberfläche

Modellendpunkt

Ollama, vLLM oder eine andere kompatible Runtime stellt das lokale Modell bereit. Modellversion, Quantisierung, Kontext und Parallelität werden dokumentiert. Der Endpunkt ist nicht direkt öffentlich erreichbar.

Datenbank und Speicher

Chatverläufe, Benutzer, Konfiguration und Metadaten brauchen persistente Speicherung. Dateien und Wissensartefakte werden in definierte Volumes oder Objektspeicher gelegt. Backup und Wiederherstellung müssen beide Ebenen gemeinsam erfassen.

Identität und Berechtigungen

Für Unternehmensbetrieb werden lokale Konten oder OIDC/SSO, Gruppen und minimale Standardrechte konfiguriert. Zugriff auf Modelle, Wissensbasen und Werkzeuge wird bewusst vergeben. Administrationsrechte sind von normaler Nutzung getrennt.

Netzwerk

TLS, interne DNS-Namen, Firewall und gegebenenfalls VPN oder NetBird begrenzen den Zugriff. WebUI, Modellserver, Datenbank und Administration liegen nicht zwangsläufig im selben freigegebenen Netzsegment.

Mindeststandard für den produktiven Betrieb

Bereich Vor der Freigabe festlegen
Identität lokale Konten oder SSO/OIDC beziehungsweise LDAP, MFA am Identitätsanbieter und geregelter Benutzerlebenszyklus
Berechtigungen Standardrolle, Administratoren, Gruppen sowie Zugriff auf Modelle, Wissen und Werkzeuge
Daten Speicherorte für Chats, Uploads, Wissensartefakte, Datenbank, Logs und Backups
Modelle freigegebene lokale und optionale externe Endpunkte samt klarer Kennzeichnung
Betrieb Updateweg, Wartungsfenster, Monitoring, Restore-Test, Rollback und Incident-Verantwortung
Zugriff interne Nutzung, VPN, NetBird oder Reverse Proxy mit getrenntem Administrationspfad

Diese Entscheidungen machen aus einer Installation einen betreibbaren Dienst. Sie sollten dokumentiert sein, bevor mehrere Teams produktive Daten in der Plattform ablegen.

Updates ohne unkontrollierte Ausfälle

Open WebUI und die Modell-Runtime entwickeln sich unabhängig. Ein Updateprozess umfasst Versionsprüfung, Release Notes, Backup, Test, geplantes Wartungsfenster und einen Rollback-Weg. Automatisches Aktualisieren ohne Abnahme ist für eine produktive Plattform ungeeignet.

Bei Modellen wird zusätzlich geprüft, ob die neue Version dieselben Aufgaben mindestens gleich gut erfüllt. Eine höhere Versionsnummer ersetzt keine Evaluation.

Monitoring und Backup

Überwacht werden Erreichbarkeit, Antwortzeiten, Fehler, Speicher, Datenträger, Container oder Dienste und Backupstatus. Inhaltliche Prompts müssen dafür nicht pauschal in externe Monitoringdienste übertragen werden. Logs werden auf den notwendigen Umfang begrenzt.

Ein Restore-Test prüft, ob Datenbank, Dateien, Schlüssel und Konfiguration gemeinsam wiederhergestellt werden können. Ein vorhandenes Backup ohne getesteten Wiederanlauf ist kein belastbarer Betriebsnachweis.

AI Cube als fertig vorbereitete Basis

Beim AI Cube installiert WZ-IT Open WebUI, die lokale Runtime und ein abgestimmtes Modell, richtet das Basissystem ein, härtet es und prüft die Funktion. Ersteinrichtung und Einweisung sind im Kaufpreis von 6.490 € netto enthalten. Die Plattform ist nach Freigabe der Konfiguration in der Regel innerhalb von zwei Wochen einsatzbereit.

Patching, Backup, Monitoring und Support übernimmt AI Cube Care ab 349,90 € netto im Monat; die ersten zwölf Monate laufen mit dem Gerät, danach ist Care monatlich kündbar. SSO, automatisierte Datenquellen, individuelle RAG-Pipelines, MCP-Server, besondere Backupziele und sichere Standortvernetzung werden passend zur vorhandenen Umgebung als Erweiterung geplant.

Quellen

Lieber betreiben lassen?

Sie möchten Lokale KI für Unternehmen nicht selbst betreiben? WZ-IT übernimmt Einrichtung, Betrieb und Wartung - datenschutzorientiert aus Deutschland.

Häufig gestellte Fragen

Antworten auf die wichtigsten Fragen

Wissen

Mehr zu Lokale KI für Unternehmen

Alle Lokale KI für Unternehmen-Artikel

Unternehmen weltweit vertrauen WZ-IT

  • Stadtwerke Brühl
  • DGHO e.V.
  • ABCO Water Systems
  • Golem.de
  • EVADXB
  • nextGYM
  • AInergy
  • ml&s
  • Odiseo Solutions
  • Annota
  • ARGE
  • SweetConnect GmbH
  • Aphy AG
  • CORGOS
  • Rekorder
  • SolidProof
  • Yonju
  • Keymate
  • Paritel
  • Mr. Clipart
  • Millenium
  • Negosh
  • Führerscheinmacher
  • Boese VA
Kundenstimmen ansehen

Anfrage

Lokale KI für Ihren Einsatz einordnen

Starten Sie mit dem AI Cube oder lassen Sie eine individuelle KI-Plattform, Wissensanbindung oder Integration einordnen.

  • Direkt mit Timo und Robin - kein Vertrieb, kein Sales-Pitch
  • Ehrliche Einschätzung, auch wenn wir nicht der richtige Partner sind
  • Konkrete nächste Schritte für Infrastruktur, Software oder KI

Kein Risiko: Im schlechtesten Fall gehen Sie mit mehr Klarheit über Ihr Projekt heraus als vorher.

Die Beratung von WZ-IT zu unserer Azure-Migration war schon im Erstgespräch fachlich sehr fundiert und völlig unverbindlich - wir haben eine Menge mitgenommen.
Jakob ÖschlbergerInno7 GmbH
Timo und Robin, Gründer von WZ-IT

Lokale KI für Ihren Einsatz einordnen

Die Beratung von WZ-IT zu unserer Azure-Migration war schon im Erstgespräch fachlich sehr fundiert und völlig unverbindlich - wir haben eine Menge mitgenommen.
Jakob ÖschlbergerInno7 GmbH