Eigenes ChatGPT für Unternehmen: vier Betriebsmodelle im Vergleich

Einen eigenen KI-Arbeitsplatz für Mitarbeitende einführen? Der AI Cube Pro stellt den lokalen KI-Chat mit Hardware, Open WebUI, abgestimmtem Modell, Härtung und Ersteinrichtung bereit. Für automatisch angebundenes Unternehmenswissen baut WZ-IT darauf einen internen KI-Assistenten mit Quellen und Berechtigungen auf. Einstieg einordnen lassen

Wer nach einem „eigenen ChatGPT für Unternehmen“ sucht, meint selten eine exakte Kopie des Produkts von OpenAI. Gesucht wird ein zentraler KI-Arbeitsplatz, über den Mitarbeitende chatten, Dateien auswerten, freigegebene Modelle nutzen und auf internes Wissen zugreifen können. Die entscheidende Frage ist deshalb nicht nur, welche Oberfläche ähnlich aussieht, sondern wer Modelle und Plattform betreibt, wohin Daten fließen und wie Unternehmenswissen und Rechte eingebunden werden.

Dieser Leitfaden vergleicht vier Betriebsmodelle und zeigt, welche Fragen vor der Auswahl beantwortet sein sollten. Stand August 2026.

Inhaltsverzeichnis

• Was Unternehmen mit einem eigenen ChatGPT meinen
• Vier Betriebsmodelle im Vergleich
• Welche Funktionen Mitarbeitende wirklich benötigen
• Eigene Dokumente und Unternehmenswissen
• Datenschutz und kontrollierte Datenwege
• Kosten richtig vergleichen
• Welcher Einstieg passt
• Lokaler Einstieg mit dem AI Cube Pro
• Checkliste für die Auswahl
• Quellen

Was Unternehmen mit einem eigenen ChatGPT meinen

ChatGPT selbst ist ein Cloud-Dienst von OpenAI. Die geschlossenen Modelle lassen sich nicht auf einem eigenen Server installieren. Ein Unternehmen kann aber einen funktional vergleichbaren KI-Arbeitsplatz aus offenen oder extern angebundenen Modellen, einer Chat-Oberfläche, Identitätsverwaltung und kontrollierten Wissensquellen aufbauen.

Aus Nutzersicht gehören dazu meist:

• eine vertraute Chat-Oberfläche im Browser;
• freigegebene Modelle für Text, Dateien und gegebenenfalls Bilder oder Sprache;
• persönliche und gemeinsam nutzbare Wissensbereiche;
• Benutzer, Gruppen und unterschiedliche Modell- oder Datenrechte;
• nachvollziehbare Quellen bei Antworten aus Unternehmensdokumenten;
• zentrale Administration, Updates und Support.

Der Begriff „eigenes ChatGPT“ beschreibt damit das Nutzungserlebnis. Technisch kann dahinter ein externer Workspace, eine dedizierte Plattform oder ein lokaler KI-Server stehen.

Vier Betriebsmodelle im Vergleich

Keine Variante ist für jedes Unternehmen richtig. Auch „EU-gehostet“ bedeutet nicht automatisch, dass jede Modellanfrage innerhalb der EU bleibt. Umgekehrt ist eine lokale Installation nicht automatisch sicher oder datenschutzkonform. Entscheidend ist die vollständige Architektur.

Welche Funktionen Mitarbeitende wirklich benötigen

Die Modellqualität ist nur ein Teil des Produkts. Ein interner KI-Chat wird erst dann im Alltag nutzbar, wenn Login, Rechte, Modelle, Wissen und Betrieb zusammenpassen.

Eine Oberfläche wie Open WebUI kann lokale Modelle und bewusst freigegebene externe Endpunkte in einem Workspace bereitstellen. Mitarbeitende können chatten, Dateien verwenden, eigene Assistenten konfigurieren und persönliche oder gemeinsame Wissensbereiche nutzen. Über OIDC lässt sich die Anmeldung an einen vorhandenen Identitätsanbieter anbinden.

Vor dem Rollout sollten Unternehmen festlegen:

• Welche Nutzergruppen dürfen welche Modelle verwenden?
• Dürfen externe Modelle neben lokalen Modellen verfügbar sein?
• Welche Daten dürfen in persönliche oder gemeinsame Wissensbereiche?
• Wie werden ausgeschiedene Mitarbeitende, Gruppenwechsel und Löschfristen behandelt?
• Wer verantwortet Updates, Modellwechsel, Backup und Support?

Eigene Dokumente und Unternehmenswissen

Für einen ersten Einstieg können Mitarbeitende einzelne Dateien oder kuratierte Sammlungen in der Oberfläche hinterlegen. Das ist etwas anderes als eine dauerhaft synchronisierte Unternehmenssuche.

Sollen Nextcloud, SharePoint, DMS, Netzlaufwerke, Wikis, Tickets oder Datenbanken automatisch eingebunden werden, braucht es eine RAG-Pipeline. Sie liest freigegebene Inhalte ein, bereitet sie für die Suche auf und liefert dem Modell passende Abschnitte als Kontext. Gute Systeme zeigen Dokument, Abschnitt und Fassung als Quelle.

Die Berechtigungen müssen vor der Suche greifen. Ein Benutzer darf keinen Textabschnitt erhalten, nur weil er technisch im gemeinsamen Index liegt. Genau diesen Anwendungsfall deckt der interne KI-Assistent für Unternehmensdokumente ab. Die möglichen Quellen ordnet der Leitfaden RAG mit Nextcloud, SharePoint und DMS ein.

Datenschutz und kontrollierte Datenwege

OpenAI gibt für seine Business-Angebote an, Geschäftsdaten standardmäßig nicht zum Training der Modelle zu verwenden. Für eine Unternehmensentscheidung sind zusätzlich Vertrag, Tarif, Aufbewahrung, Unterauftragnehmer, Region, aktivierte Funktionen und Supportzugriffe zu prüfen.

Bei einer lokalen Plattform kann die Modellinferenz im eigenen Netz bleiben. Dennoch können Updates, Telemetrie, Websuche, externe Modelle, E-Mail, Backups oder Fernwartung Verbindungen nach außen erzeugen. Diese Wege müssen dokumentiert und technisch begrenzt werden.

Zur Datenschutzprüfung gehören mindestens:

• Zweck und erlaubte Datenkategorien;
• Rechtsgrundlage und gegebenenfalls Auftragsverarbeitung;
• Benutzer-, Gruppen- und Administrationsrechte;
• Protokollierung, Aufbewahrung und Löschung;
• Unterauftragnehmer und internationale Datenübermittlungen;
• Risikoanalyse und gegebenenfalls Datenschutz-Folgenabschätzung;
• Regeln für Eingaben durch Mitarbeitende.

Der Leitfaden DSGVO-konforme KI enthält die ausführliche Prüfliste. Für Patientendaten, Mandatsinformationen und andere Berufsgeheimnisse kommen die Anforderungen rund um §203 StGB hinzu.

Kosten richtig vergleichen

Cloud-Workspaces rechnen häufig pro Nutzer oder nach Nutzung ab. Eine lokale Plattform verlagert den Aufwand in Hardware, Einrichtung und Betrieb. Ein fairer Vergleich betrachtet denselben Funktionsumfang über mindestens drei Jahre:

• Nutzerlizenzen oder Modellverbrauch;
• Hardware, Strom und Ersatzrisiko;
• Plattform-, Identitäts- und Netzwerkintegration;
• Wissensquellen und RAG-Pipeline;
• Updates, Monitoring, Backup und Support;
• Migration und Exit.

Bei wenigen Nutzern und allgemeinem KI-Chat kann ein Cloud-Workspace wirtschaftlicher sein. Bei stabiler Nutzung, sensiblen Daten oder umfassender Wissensintegration kann eine eigene Plattform die bessere Kontrolle und ein planbareres Kostenmodell bieten. Eine konkrete Kalkulation zeigt Was kostet ein lokaler KI-Server?.

Welcher Einstieg passt

Ein Cloud-Workspace passt eher, wenn ein Team schnell allgemeine KI-Funktionen benötigt, kein eigener Plattformbetrieb gewünscht ist und die vorgesehenen Daten in dem geprüften Vertragsrahmen verarbeitet werden dürfen.

Eine dedizierte oder europäische Plattform passt eher, wenn der Betrieb ausgelagert bleiben soll, aber Region, Modelle, Zugänge und Exit stärker kontrolliert werden müssen.

Eine lokale Plattform passt eher, wenn Modellinferenz und Wissen im eigenen Netz bleiben sollen, Offline-Betrieb relevant ist, Modelle frei gewählt werden sollen oder sensible Daten verarbeitet werden.

Ein hybrider Aufbau passt eher, wenn lokale Modelle vertrauliche Aufgaben übernehmen und freigegebene Cloud-Modelle für andere Aufgaben verfügbar bleiben sollen. Dann müssen Modellwahl und Datenklassen für Nutzer eindeutig sichtbar und technisch begrenzt sein.

Lokaler Einstieg mit dem AI Cube Pro

Der AI Cube Pro ist der vorkonfigurierte Einstieg von WZ-IT. Hardware, Open WebUI, lokale Modell-Runtime und ein abgestimmtes Modell werden vorbereitet, gehärtet und getestet. Ersteinrichtung und Support sind inklusive. Nach abgestimmter Konfiguration ist das System in der Regel innerhalb von zwei Wochen im Unternehmen einsatzbereit.

Damit steht zunächst ein lokaler KI-Chat für Mitarbeitende bereit. Persönliche und gemeinsame Wissensbereiche können direkt in Open WebUI angelegt werden. Automatisierte Datenquellen, SSO, besondere Rechtearchitekturen, Fachsoftware-Schnittstellen und individuelle RAG-Pipelines werden passend zur vorhandenen Umgebung ergänzt.

Für größere Modelle, mehr gleichzeitige Nutzer oder besondere Verfügbarkeitsanforderungen plant WZ-IT AI Cube Custom, weitere AI Cubes oder dedizierte GPU-Server. Der Betrieb kann intern erfolgen oder als Managed AI übernommen werden.

Checkliste für die Auswahl

1. Welche drei konkreten Aufgaben sollen Mitarbeitende mit dem System erledigen?
2. Welche Datenklassen dürfen lokal, in der EU oder bei einem externen Anbieter verarbeitet werden?
3. Reicht ein allgemeiner Chat oder muss Unternehmenswissen automatisch angebunden werden?
4. Welche Benutzergruppen und Dokumentrechte müssen technisch greifen?
5. Welche Modelle werden für Qualität, Sprache und Geschwindigkeit benötigt?
6. Wie viele Antworten werden voraussichtlich gleichzeitig erzeugt?
7. Wer übernimmt Updates, Monitoring, Backup und Support?
8. Wie lassen sich Daten, Konfiguration und Modelle bei einem Anbieterwechsel exportieren?

Erst diese Antworten entscheiden, ob ein Cloud-Workspace, eine dedizierte Plattform, der AI Cube Pro oder ein individueller Aufbau der passende Weg ist.

Quellen

• OpenAI: Datenschutz für Geschäftsdaten
• OpenAI: ChatGPT Business und Datenschutz
• Open WebUI: Funktionen und selbst gehosteter Betrieb
• Open WebUI: Knowledge
• Europäische Kommission: Pflichten nach der DSGVO
• WZ-IT: Lokale KI oder ChatGPT Business?