Open WebUI mit gpt-oss, Qwen und Ministral, ohne US-Clouds: Ihr Team schreibt, fasst zusammen und fragt eigene Dokumente. Wir richten ein und betreiben.
Ausgangslage
Die Nachfrage im Team ist da. Offen ist, wohin vertrauliche Daten fließen und wer dafür einsteht.
Kunden-, Mandanten- und Personaldaten unterliegen der DSGVO, Berufsgeheimnisse zusätzlich §203 StGB.
Viele KI-Dienste leiten Anfragen an GPT, Claude oder Gemini weiter. Deren Anbieter unterliegen auch mit EU-Rechenzentrum dem CLOUD Act.
Ohne freigegebene Lösung nutzen Mitarbeitende private Konten, ohne Regeln und ohne Überblick.
Seit Februar 2025 verlangt Art. 4 AI Act ausreichende KI-Kompetenz der Beschäftigten.
Rundgang
Die Oberfläche ist Open WebUI, auf Deutsch und im Browser. Sieben Stationen aus dem Arbeitsalltag.
Mehr zu Open WebUI01Modelle vergleichen
Im Chat zwischen gpt-oss-120b, Qwen und Ministral wechseln. Zwei Modelle beantworten dieselbe Frage nebeneinander, Sie wählen die bessere Antwort.
02Dokumente auswerten
PDF, Word, Excel oder PowerPoint hochladen. Die KI fasst zusammen, listet Fristen und Beträge und übersetzt auf Wunsch.
03Wissensbasis anlegen
Wissensbasis anlegen, Dateien hochladen, ganze Ordner synchronisieren oder Webseiten und Texte hinzufügen. Im Chat holt ein # die Sammlung dazu, die Antwort nennt die Fundstelle.
04Websuche
Für öffentlich verfügbare Informationen schalten Sie die Websuche je Chat zu, einzelne Webseiten hängen Sie direkt an. Die Antwort nennt ihre Quellen; an Suchmaschinen gehen nur die Suchbegriffe, ohne Bezug zu Person oder Organisation.
05Scans, Bilder, Sprache
Texterkennung für Scans und Fotos, Bildverständnis, Diktat per Mikrofon und Sprachausgabe. Alles mit Modellen, die in Deutschland bei deutschen Anbietern betrieben werden.
06Assistenten
Anweisung, Modell und Wissensbasis einmal festlegen. Das Team wählt den Assistenten wie ein Modell, Vorlagen liegen in der Prompt-Bibliothek.
07Verwaltung
Anmeldung mit Microsoft Entra ID, Google oder Keycloak. Gruppen steuern Modelle, Wissensbasen und Funktionen, die Statistik zeigt die Nutzung.
Funktionen
Alle Funktionen sind eingerichtet und laufen mit den Modellen, betrieben in Deutschland bei deutschen Anbietern.
Modell je Aufgabe wählen, zwei Modelle nebeneinander vergleichen.
Aktuelle Informationen aus dem Web, jede Antwort mit Quellen.
Eine URL einfügen und den Inhalt zusammenfassen oder befragen.
PDF, Word, Excel und PowerPoint, auch ganze Verträge am Stück.
Python läuft im Browser, etwa für Tabellen und Diagramme.
Chats ohne Verlauf für besonders sensible Fragen.
Antworten aus eigenen Dokumenten, mit Quelle zum Prüfen.
Dateien, ganze Ordner, Webseiten und Texte hinzufügen.
Anweisung, Modell und Wissen als fertiger Assistent.
Bewährte Vorlagen mit einem Schrägstrich abrufen.
Chats je Projekt, Mandat oder Vorgang ordnen.
Notizen mit KI überarbeiten, Chats und Notizen als Kontext nutzen.
Scans, Fotos und Formulare werden lesbar.
Fotos, Diagramme und Screenshots beschreiben und auswerten.
Sprechen statt tippen, Besprechungen als Text.
Freihändig mit der KI sprechen, Antwort als Sprache.
Antworten als Sprachausgabe.
Texte und Dokumente in die gängigen europäischen Sprachen.
Microsoft Entra ID, Google oder Keycloak, mit Mehrfaktor.
Wer welche Modelle, Wissensbasen und Funktionen nutzt, auch die Websuche.
Chats teilen, im Kanal gemeinsam mit der KI arbeiten.
Rolle, Ton und Erinnerungen je Nutzer festlegen.
Chats durchsuchen, als PDF sichern, im Browser auf jedem Gerät.
Nachrichten, Tokens und Modelle im Überblick.
Modelle
Open-Weight-Modelle, betrieben in Deutschland bei deutschen Anbietern, ohne US-Clouds und ohne Training mit Ihren Eingaben. Stand Oktober 2026.
| Modell | Einsatz | Kontext |
|---|---|---|
| gpt-oss-120b | Texte, Analysen und Werkzeugaufrufe | 131.000 Tokens |
| Qwen3.8-27B | Texte, Bilder und mehrstufige Aufgaben | 256.000 Tokens |
| Qwen3.6-35B | Lange Dokumente und Bildverständnis | 256.000 Tokens |
| Ministral 3 14B | Schneller Chat mit Bilderkennung | 262.000 Tokens |
| GLM-OCR | Texterkennung in Scans, PDF, Word, Excel und PowerPoint | 131.000 Tokens |
| Qwen3-Embedding-8B | Suche in Ihren Wissensbasen | 32.000 Tokens |
| Qwen3-VL-Reranker-2B | Genauere Treffer in Wissensbasen | 32.000 Tokens |
| Whisper large v3 turbo | Diktat und Transkription von Besprechungen | – |
| Qwen3-TTS | Antworten vorlesen lassen | – |
§203 StGB
Für Berufsgeheimnisse muss jeder Beteiligte zur Verschwiegenheit verpflichtet sein. Bei uns ist die Kette vollständig.
Anmeldung per SSO mit Ihrer Mehrfaktor-Anmeldung, Rechte je Gruppe.
Einrichtung und Betrieb, AVV und §203-Zusatzvereinbarung, Team schriftlich verpflichtet.
Eigene Instanz je Organisation, keine geteilte Plattform; Rechenzentrum in Deutschland bei deutschen Anbietern, mit AVV und §203-Zusatzvereinbarung.
KI-Hosting bei einem deutschen Anbieter in Deutschland, kein Transfer ins Ausland, kein US-Anbieter, kein Training.
Betriebsmodelle
Alle drei Wege nutzen dieselbe Oberfläche und keine geteilte Plattform. Sie entscheiden, wo Plattform, Chats und Modelle laufen.
StandardIhre Plattform auf eigener Domain, betrieben in Deutschland bei deutschen Anbietern: Instanz im Rechenzentrum mit ISO 27001 und BSI C5, Modelle aus einem deutschen KI-Hosting. Auf Wunsch nur aus Ihrem Netz oder per VPN erreichbar.
Pakete ansehen →
Plattform vor OrtOpen WebUI läuft auf einer WZ-IT App Node in Ihrem Unternehmen, Chats und Wissensbasen bleiben im Haus; die Modelle kommen von einem deutschen KI-Hosting-Anbieter in Deutschland. App Node ab 349 € netto im Monat.
App Node ansehen →
Plattform und Modelle vor OrtOpen WebUI und die Sprachmodelle laufen auf dem AI Cube in Ihren Räumen; Anfragen verlassen Ihr Netz nicht. Der Weg für Gesundheitsdaten und Vorgaben ohne Cloud. Gerät netto ab 6.490 € einmalig.
AI Cube ansehen →Pakete
Sie zahlen einen Festpreis je Organisation und Monat, eine feste Zahl Nutzer ist inklusive. Weitere Nutzer kosten je 14,90 €, ist das nächste Paket günstiger, stellen wir um. Voll belegt entspricht das 14,99 € (Start) bis 12,00 € (Organisation) je Nutzer, Modelle und Verträge inklusive.
Für Kanzleien, Praxen und kleine Teams.
Für wachsende Kanzleien und Abteilungen.
Für Organisationen mit mehreren Teams.
Für größere Häuser und Verwaltungen.
Einrichtungspaket optional für 990 € einmalig: Wissensbasis mit Ihren Dokumenten, Assistentenvorlagen und zwei Stunden Schulung mit Nachweis nach Art. 4 AI Act. Weitere Nutzer je 14,90 € im Monat, im Paket Organisation bis 150 Nutzer; darüber oder mit eigenen GPUs individuelles Angebot. Monatlich kündbar.
Alle Preise verstehen sich netto zuzüglich gesetzlicher Umsatzsteuer. Die Angebote richten sich an Unternehmen.
Ablauf
Sie testen zuerst mit Ihrem Team und entscheiden dann.
Nutzerzahl, Aufgaben, Anmeldung und Vorgaben klären.
7 Tage kostenlos mit unkritischen Daten testen; die Testinstanz ist nicht §203-konform.
In wenigen Werktagen: Instanz, Domain, Nutzer und SSO einrichten, eine Stunde Einweisung.
Updates, Backups, Monitoring und neue Modelle übernehmen wir.
Für Ihre Branche
Anwendungsfälle, Rechtsrahmen und Fragen je Zielgruppe, dazu die Varianten mit eigener Hardware.
Preise, §203, Modelle, Datenschutz und Ablauf
Bewertungen & Projekte
Von der lokalen KI-Integration bis zu Architektur, Datenhoheit und laufendem Betrieb.
WZ-IT hat unsere Studio-Infrastruktur von dezentralen Einzelgeräten auf eine zentrale Plattform gehoben: Jeder Standort ist per VPN sicher angebunden, neue Geräte werden automatisiert onboardet und ein kompletter Standort wird per Vorlage provisioniert - ohne manuelle Schritte vor Ort. Was mich am meisten beeindruckt hat, ist die Breite und Tiefe des Wissens: Timo und Robin sind kein normaler IT-Dienstleister, der einen Server aufsetzt und wieder geht. Die beiden denken sich in hochkomplexe Infrastruktur- und Softwarethemen rein, arbeiten sich in jede Anforderung ein, die wir ihnen hinlegen, und bauen Vernetzung, Provisioning und Betrieb so auf, dass am Ende alles zusammenpasst. WZ-IT ist ein hervorragender Partner, wenn es um komplexe Software-, Netzwerk- und Architekturprojekte geht.
Steve KirchnerGeschäftsführer, nextGYM GmbH
International
WZ-IT plant, entwickelt und betreibt Infrastruktur und Software für Kunden in Deutschland und international. Projekte setzen wir remote um und begleiten sie auch nach dem Go-live im laufenden Betrieb.
Anfrage
Nennen Sie Nutzerzahl und Branche. Wir richten die Testinstanz ein oder schlagen das passende Paket vor.
Kein Risiko: Im schlechtesten Fall gehen Sie mit mehr Klarheit über Ihr Projekt heraus als vorher.
Die Beratung von WZ-IT zu unserer Azure-Migration war schon im Erstgespräch fachlich sehr fundiert und völlig unverbindlich - wir haben eine Menge mitgenommen.
Jakob ÖschlbergerInno7 GmbH
Die Beratung von WZ-IT zu unserer Azure-Migration war schon im Erstgespräch fachlich sehr fundiert und völlig unverbindlich - wir haben eine Menge mitgenommen.
