[email protected]
DEEN

PrivateGPT Hosting in Deutschland

WZ-IT betreibt PrivateGPT als eigene Instanz in deutschen Rechenzentren, mit Updates, täglichem Backup, 24/7-Monitoring und persönlichem Ansprechpartner. Auf Wunsch installieren wir PrivateGPT auch in Ihrer Cloud oder on-premises.

Hosting anfragenHosting & Preise
Bewertungen
Cloud Wolke HerausforderungServer NachhaltigkeitIT Beratung Service Consulting SoforthilfeTimo Wevelsiep Robin ZinsExperten für Innovation Migration AWSHetzner Hosting zuverlässig

Unternehmen weltweit vertrauen WZ-IT

  • Stadtwerke Brühl
  • DGHO e.V.
  • ABCO Water Systems
  • Golem.de
  • EVADXB
  • nextGYM
  • AInergy
  • ml&s
  • Odiseo Solutions
  • Annota
  • ARGE
  • SweetConnect GmbH
  • Aphy AG
  • CORGOS
  • Rekorder
  • SolidProof
  • Yonju
  • Keymate
  • Paritel
  • Mr. Clipart
  • Millenium
  • Negosh
  • Führerscheinmacher
  • Boese VA
Kundenstimmen ansehen

Über die Technologie

Was ist PrivateGPT?

PrivateGPT stellt Bausteine für dokumentenbasierte RAG-Anwendungen mit Large Language Models bereit. Dokumentenverarbeitung, Retrieval und Modellzugriff können lokal betrieben werden; bei Remote-LLM- oder Embedding-Anbietern werden die jeweils übermittelten Inhalte extern verarbeitet.

Die Plattform unterstützt lokale und entfernte Modellanbieter. Wir legen Datenflüsse, Modellzugriffe, Vektorspeicher und Berechtigungen deshalb passend zum Schutzbedarf aus, statt aus Self-Hosting pauschal Datenschutzkonformität abzuleiten.

GitHubWebseiteOffizielle Dokumentation

Funktionen

  • Kontrollierbare Datenflüsse

    Dokumente, Embeddings und Modellanfragen können bei vollständig lokaler Konfiguration in der eigenen Umgebung bleiben. Externe Provider werden als eigene Datenflüsse bewertet und freigegeben.

  • Vollständige RAG-Pipeline

    RAG-Pipeline mit Dokumenten-Parsing, Splitting, Metadaten, Embeddings und Chunk-Retrieval. Ergebnisqualität und Quellenbezug werden anhand des konkreten Bestands getestet.

  • OpenAI API-kompatibel

    FastAPI-basierte Architektur mit OpenAI-kompatiblen Endpunkten. Benötigte Parameter, Streaming-, Tool- und Client-Funktionen werden versionsbezogen getestet und bei Bedarf angepasst.

  • Vollständig lokal betreibbar

    Kann komplett offline und lokal betrieben werden - on-premise, in Ihrer Private Cloud oder Air-Gapped-Umgebung. Keine Abhängigkeit von externen Cloud-Diensten.

  • Flexible LLM-Provider-Unterstützung

    Unterstützt lokale Provider (Ollama, LlamaCPP) und Remote-Provider (OpenAI, Azure OpenAI, Sagemaker, etc.). Wechseln Sie flexibel zwischen verschiedenen Modellen.

  • Intelligente Dokumenten-Ingestion

    Dokumentenverarbeitung mit Parsing, Chunking, Metadaten und Embeddings. Ergebnisqualität und unterstützte Formate hängen von Version, Parsern und Konfiguration ab.

  • Kontrolle über Speicherort und Zugriff

    Bei lokaler Auslegung lassen sich Speicherorte, Identitäten und Netzwerkpfade kontrollieren. Die rechtliche Zulässigkeit hängt zusätzlich vom konkreten Einsatzzweck und den angebundenen Diensten ab.

  • Open Source

    Der öffentlich einsehbare Quellcode steht unter Apache-2.0-Lizenz und kann technisch geprüft und angepasst werden. Modelle und weitere Abhängigkeiten werden separat bewertet.

  • Kein Vendor Lock-in

    Basiert auf LlamaIndex Framework. Freie Wahl zwischen verschiedenen LLM-Providern, Vektordatenbanken und Deployment-Modellen ohne Abhängigkeit von einzelnen Anbietern.

Infrastruktur, Integration und Betrieb

PrivateGPT als Teil Ihrer Infrastruktur

Wir stellen nicht nur eine Anwendung bereit. WZ-IT plant die technische Architektur, bindet Netzwerk und Identitäten an, übernimmt den vereinbarten Betrieb und entwickelt Integrationen weiter, wenn der Standard nicht ausreicht.

Architektur und Migration

Sizing, Zielumgebung, Datenübernahme, Cutover und Wiederanlauf werden vor dem produktiven Betrieb geklärt.

  • On-Premise

    In Ihrem Rechenzentrum: Installation auf Bare-Metal, VM oder Docker · Integration in bestehendes Active Directory/LDAP

  • Cloud Installation

    AWS, Azure, Hetzner & Co.: Installation auf AWS, Azure, GCP, Hetzner · Terraform/IaC Setup (optional) · Kubernetes oder Docker Compose · Kapazitäts- und Skalierungskonzept

  • Enterprise Setup

    Erweiterte Architektur nach technischer und lizenzrechtlicher Prüfung: HA- und Wiederanlaufkonzept, soweit von Anwendung und Edition unterstützt · Protokollierung nach Funktionsumfang und Edition · Individuelle Security Policies

Netzwerk und Identity

SSO, sichere Zugänge, interne Systeme und vorhandene Security-Komponenten werden passend eingebunden.

  • VPN-Zugang

    WireGuard, NetBird, Tailscale, Headscale, OpenVPN, Cloudflare Tunnel · Einfaches Client-Setup für alle Geräte

  • SSO Integration

    Direkt oder über vorgeschalteten Identity-Layer

  • Multi-Faktor-Auth

    Abhängig von Anwendung, Edition und Identity Provider

  • Firewall & Hardening

    Fail2Ban, Rate Limiting, IP Whitelisting

Monitoring und Service Level

Updates, Backups, technische Überwachung und Reaktionswege folgen einem transparenten Betriebsumfang.

  • 24/7 proaktives Monitoring

  • Updates und Patches

    Regelmäßige Updates, CVE-Monitoring und priorisierte Patches bei kritischen Lücken

  • Tägliches Backup mit 7 Tagen Aufbewahrung

  • Persönlicher technischer Ansprechpartner

Integration und Weiterentwicklung

APIs, Automatisierungen und individuelle Erweiterungen können über die reine Bereitstellung hinaus umgesetzt werden.

  • REST API

    Über die API binden wir PrivateGPT an Ihre Systeme an: Chat-Completion, Document Ingest, und Context-Retrieval lassen sich programmatisch steuern.

  • Document Processing

    Wir entwickeln Custom Ingestion Pipelines: Spezielle Dokumenttypen (CAD, Verträge, Code) werden mit optimierten Chunking-Strategien verarbeitet.

  • LlamaIndex Extensions

    Das LlamaIndex-Backend erlaubt tiefe Anpassungen: Custom Retrievers, Reranker, und Embedding-Modelle für domänenspezifische Suche.

Full-Service Installation ohne versteckte Kosten

Leistungsumfang der PrivateGPT-Einrichtung

  • Vollständige Installation & Konfiguration
  • SSL-Zertifikat & Reverse Proxy Setup
  • Backup-Strategie & Disaster Recovery
  • Performance-Optimierung & Tuning
  • Security Hardening nach OWASP
  • Monitoring & Logging Setup
  • Dokumentation & Best Practices
  • Administrator-Schulung (Remote)
  • 30 Tage E-Mail Support inklusive
  • Persönlicher Ansprechpartner
  • Optionale Integration: LDAP/AD, SSO, MFA
  • Update-Strategie & Einführung Patch-Management

Der konkrete Umfang hängt von Anwendung, Edition, Infrastruktur und Kritikalität ab. Herstellerlizenzen und Sonderkomponenten werden separat ausgewiesen.

Anwendungsfälle

PrivateGPT im Unternehmen einsetzen

  • Lokal betreibbare Dokumenten-KI

    Vertrauliche Dokumente in einer kontrollierten Umgebung durchsuchen; Datenflüsse, Modellzugriffe und Telemetrie werden entsprechend Ihrer Architektur konfiguriert

  • DSGVO & Compliance

    Kontrollierbare Datenflüsse für Organisationen mit erhöhtem Schutzbedarf; rechtliche und fachliche Anforderungen werden projektbezogen geprüft

  • RAG Pipeline Implementation

    Production-ready RAG mit intelligentem Dokumenten-Parsing, Embeddings-Generierung und kontextbasierter Chunk-Retrieval für präzise Antworten

  • Multi-LLM Support

    Flexible Nutzung von lokalen LLMs (Ollama, LlamaCPP) oder Remote-Providern (OpenAI, Azure OpenAI, Gemini) je nach Anforderung

  • Air-Gapped Deployment

    Komplett offline betreibbar für mehrschichtige Sicherheitsmaßnahmensanforderungen, isolierte Netzwerke und Air-Gapped-Umgebungen ohne externe Abhängigkeiten

  • OpenAI API Kompatibilität

    FastAPI-basierte Architektur mit OpenAI-kompatibler API für nahtlose Integration in bestehende Tools und Workflows ohne Code-Änderungen

Konkrete Use Cases

PrivateGPT Entwicklung & Integration

PrivateGPT ermöglicht lokale LLM-Nutzung mit eigenen Dokumenten. Wir integrieren es in Ihre bestehende Infrastruktur und erweitern die Fähigkeiten.

Air-Gapped Deployment

Problem

Hochsensible Umgebungen (Behörden, Verteidigung) dürfen keine Cloud-Verbindung haben, brauchen aber LLM-Fähigkeiten.

Lösung

Vollständig offline-fähiges Setup mit lokalen Modellen, eigenen Embeddings, und airgapped Update-Mechanismen.

Legal Document Discovery

Problem

Anwälte müssen tausende Dokumente nach relevanten Passagen durchsuchen. Manuelle Sichtung dauert Wochen.

Lösung

PrivateGPT mit juristisch optimiertem Chunking und Retrieval. Fragen in natürlicher Sprache, Antworten mit Quellennachweis.

E-Mail Assistent

Problem

Führungskräfte bekommen hunderte E-Mails täglich. Zusammenfassungen und Priorisierung werden benötigt.

Lösung

PrivateGPT-Integration, die E-Mails analysiert, zusammenfasst, und nach Dringlichkeit kategorisiert - vollständig on-premise.

Managed Hosting & Betrieb

Was kostet PrivateGPT Hosting?

Compute, Anwendungen, Speicher und Reaktionszeit werden getrennt ausgewiesen. So sehen Sie, was im laufenden Betrieb enthalten ist und welche Anforderungen erst nach einem technischen Assessment angeboten werden.

Starter-Workload ab99,90 €/ Monat · monatlich kündbar

PrivateGPT Hosting in Deutschland: DSGVO-konformer Betrieb

  • Eine verwaltete Standard-Anwendung enthalten
  • .de-Domain inklusive oder Ihre Domain bzw. Subdomain per CNAME
  • Deutsche Rechenzentren mit ISO 27001 und BSI C5, keine US-Clouds
  • 99,9 % Standardverfügbarkeit im Monat
  • Regelmäßige Updates, CVE-Monitoring und priorisierte Patches bei kritischen Lücken
  • Zentrale Logs mit unveränderbarer Aufbewahrung
  • Tägliches Backup mit 7 Tagen Aufbewahrung
  • 5 TB ausgehender Traffic je Workload und Monat
  • 24/7 proaktives Monitoring
  • Fünf Service Levels, 24/7-P1-Reaktion mit Production oder Critical
  • Persönlicher technischer Ansprechpartner

Instanzgrößen und Preise je Monat

XS · 2 vCPU, 2 GB RAM, 40 GB NVMe SSD
99,90 € gesamt
S · 2 vCPU, 4 GB RAM, 80 GB NVMe SSD
129,90 € gesamt
M · 4 vCPU, 8 GB RAM, 80 GB NVMe SSD
159,80 € gesamt
L · 8 vCPU, 16 GB RAM, 80 GB NVMe SSD
219,80 € gesamt
XL · 16 vCPU, 32 GB RAM, 80 GB NVMe SSD
329,80 € gesamt
Zusätzlicher Speicher je 50 GB
+4,99 €
Jetzt konfigurieren

Bereitstellung in der Regel innerhalb weniger Werktage nach Vertragsabschluss

Zahlung
  • SEPA-Lastschrift
  • Visa
  • Mastercard
  • American Express
  • Apple Pay
  • Google Pay
  • PayPal
  • Überweisung

Alle Preise verstehen sich netto zuzüglich gesetzlicher Umsatzsteuer. Die Angebote richten sich an Unternehmen. Alle On-Premise-Optionen

Andere Wege

7 Tage kostenlos testen

Testinstanz anfragen

Wir richten eine Testinstanz für Sie ein, in der Regel am nächsten Werktag. Ohne Zahlungsdaten. Nach sieben Tagen wird sie gelöscht, sofern Sie nicht übernehmen.

Testinstanz anfragen →Bring Your Own Infrastructure

Installation auf Ihrer Infrastruktur

Installation auf Ihrer eigenen Infrastruktur · On-Premise oder in Ihrer Cloud · Kontrolle über Datenstandort und Zugriffe · Individuelle Konfiguration · Vollständige Dokumentation · Initiale Einrichtung & Konfiguration · Optionaler Support- und Wartungsvertrag

Preis auf Anfrage, zzgl. optionaler Support & WartungAngebot anfragen →On-Premise-Option

PrivateGPT auf Hardware in Ihrem Unternehmen betreiben

Als Alternative zum Managed Hosting im Rechenzentrum stellt WZ-IT die Hardware bereit, richtet PrivateGPT ein und übernimmt Absicherung, Monitoring, Updates, Backup und technischen Support. Der Zugriff kann auf das interne Netz begrenzt oder über VPN und vorhandene Identitäten freigegeben werden.

ab 349 € netto / Monat · zzgl. einmalig Bereitstellung und ErsteinrichtungWZ-IT App Node ansehen →

Zielarchitektur

PrivateGPT kontrolliert in Ihre Infrastruktur einbetten

KI-Anwendungen benötigen neben der Oberfläche kontrollierte Modellzugänge, Wissensquellen, Berechtigungen und Beobachtbarkeit. Wir planen diese Datenflüsse als zusammenhängenden Stack.

Nutzer und angebundene Anwendungen

Teams, Fachanwendungen und API-Clients greifen über definierte Oberflächen und Schnittstellen zu.

Sicherer Zugang

TLS, Firewall-Regeln, Reverse Proxy oder private Netzwerkpfade werden passend zur Exposition der Plattform geplant.

Identitäten und Berechtigungen

Lokale Konten, SSO, Verzeichnisdienste, Service Accounts und Notfallzugänge werden mit klaren Rollen verbunden.

PrivateGPT-Plattform

Anwendungslogik, Modellzugriffe, Rollen und freigegebene Funktionen laufen in einer kontrollierten Umgebung.

Modelle und Compute

Lokale oder externe Modelle, GPU-/CPU-Ressourcen, Routing, Limits und Kostenkontrolle.

Wissen und Daten

Dokumente, Datenbanken, Vektorsuche und nachvollziehbare Datenpfade für RAG und Suche.

Tools und Observability

Geprüfte Tools, APIs, Protokollierung, Metriken und technische Qualitätskontrollen.

Modelle, Erweiterungen und Datenquellen werden nicht pauschal freigeschaltet. Berechtigungen, Datenabfluss, Kosten und fachliche Kontrolle werden je Anwendungsfall bewertet.

Powered by WZ-IT

Lokaler KI-Server oder individuelle GPU-Infrastruktur

Der AI Cube deckt den kompakten Einstieg ab. Für größere Modelle, Rackmount oder hohe Parallelität planen wir individuelle GPU-Systeme.

Managed GPU Server

Dedizierte NVIDIA GPU-Server in Deutschland inklusive abgestimmtem Modell, vLLM-Inferenzschicht, Open WebUI und laufendem Managed-Betrieb.

  • 20 oder 96 GB dedizierter GPU-Speicher
  • 24/7 Monitoring mit wählbarem Service Level
  • Modell, vLLM und Open WebUI inklusive
  • Serverstandort Deutschland
GPU Server entdecken

AI Cube

Kompakter lokaler KI-Server auf NVIDIA-GB10-Basis. Vollständig eingerichtet, gehärtet und mit einem vorab abgestimmten Modell vorbereitet.

  • 128 GB Unified Memory
  • Open WebUI und lokale Modell-Runtime
  • Basiseinrichtung und Härtung enthalten
  • Ersteinrichtung und Support inklusive
Lokalen KI-Server ansehen

Rolle im Gesamtsystem

Ergänzende Leistungen für PrivateGPT

Diese Seite deckt Installation und vereinbarten Plattformbetrieb für PrivateGPT ab. Eigener Code, die Zugriffsschicht und besondere Vertraulichkeitsanforderungen bleiben klar getrennte, bei Bedarf ergänzbare Verantwortungsbereiche.

Anwendung pflegen

Eigenen Code und Integrationen betreuen

Individuelle Erweiterungen, Schnittstellen und Dependencies kontrolliert aktualisieren und weiterbetreiben.

Leistung ansehen Zugriff absichern

Nutzer, Standorte und Systeme verbinden

Identitätsbasierte Zugänge und private Netzwerkpfade als eigene Betriebsschicht ergänzen.

Leistung ansehen Vertraulich betreiben

§203-Anforderungen gesondert einordnen

Für Berufsgeheimnisträger Vertrags-, Zugriffs- und Infrastrukturvorgaben im eigenen Betriebsmodell abgrenzen.

Leistung ansehen

Drei fachlich angrenzende Wege statt einer langen Liste weiterer Produkte.

Gesamtsystem ansehen

Häufig gestellte Fragen

Antworten auf die wichtigsten Fragen

Wissen

Mehr zu PrivateGPT

Tutorials & Guides

Passende Lösungen für Ihr Projekt

Bewertungen & Projekte

Kundenstimmen und Projekte weltweit

WZ-IT hat unsere Studio-Infrastruktur von dezentralen Einzelgeräten auf eine zentrale Plattform gehoben: Jeder Standort ist per VPN sicher angebunden, neue Geräte werden automatisiert onboardet und ein kompletter Standort wird per Vorlage provisioniert - ohne manuelle Schritte vor Ort. Was mich am meisten beeindruckt hat, ist die Breite und Tiefe des Wissens: Timo und Robin sind kein normaler IT-Dienstleister, der einen Server aufsetzt und wieder geht. Die beiden denken sich in hochkomplexe Infrastruktur- und Softwarethemen rein, arbeiten sich in jede Anforderung ein, die wir ihnen hinlegen, und bauen Vernetzung, Provisioning und Betrieb so auf, dass am Ende alles zusammenpasst. WZ-IT ist ein hervorragender Partner, wenn es um komplexe Software-, Netzwerk- und Architekturprojekte geht.
Steve KirchnerGeschäftsführer, nextGYM GmbH
Projekt ansehen

International

Gebaut im Ruhrgebiet. Produktiv weltweit.

WZ-IT plant, entwickelt und betreibt Infrastruktur und Software für Kunden in Deutschland und international. Projekte setzen wir remote um und begleiten sie auch nach dem Go-live im laufenden Betrieb.

Ausgewählte Projekte

Kundenstimmen ansehen

  • Proxmox & Backup absichern lassen
  • Souveräne Infrastruktur modernisieren
  • Souveränen Open-Source-Stack planen
  • Lokale KI-Lösung integrieren
  • Legacy-Software modernisieren
  • Cloud-Kosten senken - bis −81 %
  • HA-Proxmox-Cluster aufbauen
  • Mit Managed Proxmox virtualisieren
  • Open-Source-KI-Architektur entwerfen
  • Kollaboration managen lassen
  • Vom Prototyp in den Betrieb
  • Standorte und Cluster sicher verbinden

Managed Hosting & Betrieb

Hosting und Betrieb für PrivateGPT anfragen

Nennen Sie kurz Ausgangslage und Ziel für PrivateGPT. Wir ordnen Infrastruktur, Integration und laufenden Betrieb ein.

  • Direkt mit Timo und Robin - kein Vertrieb, kein Sales-Pitch
  • Fachliche Einschätzung Ihrer Situation
  • Konkrete nächste Schritte für Infrastruktur, Software oder KI

Das Gespräch ist unverbindlich und kostenlos.

Die Beratung von WZ-IT zu unserer Azure-Migration war schon im Erstgespräch fachlich sehr fundiert und völlig unverbindlich - wir haben eine Menge mitgenommen.
Jakob ÖschlbergerInno7 GmbH
E-Mail[email protected]Telefon+49 2922 875068
Timo und Robin, Gründer von WZ-IT

Welche PrivateGPT-Leistung benötigen Sie?

Wählen Sie den passenden Einstieg oder beschreiben Sie einfach die Ausgangslage.

Antwort in der Regel innerhalb eines Werktags. Bitte keine Zugangsdaten übermitteln.

Die Beratung von WZ-IT zu unserer Azure-Migration war schon im Erstgespräch fachlich sehr fundiert und völlig unverbindlich - wir haben eine Menge mitgenommen.
Jakob ÖschlbergerInno7 GmbH