WZ-IT Logo
Managed GPU Hosting

Managed GPU-Server für KI mieten

Dedizierte NVIDIA GPU-Server im deutschen Rechenzentrum inklusive abgestimmtem Modell, gemanagter vLLM-Inferenzschicht, Open WebUI, proaktivem 24/7 Monitoring und Updates.

Dedizierte GPU-RessourcenServerstandort DeutschlandManaged durch WZ-IT

Unternehmen weltweit vertrauen WZ-IT

Die genannten Namen sind Marken ihrer jeweiligen Inhaber: NVIDIA (NVIDIA Corporation). WZ-IT ist ein unabhängiger Dienstleister und steht in keiner geschäftlichen, partnerschaftlichen oder vertraglichen Beziehung zu diesen Unternehmen. Wir bieten unabhängige Migrations-, Installations-, Hosting- und Betriebsdienstleistungen an.

Unternehmen weltweit vertrauen WZ-IT

Stadtwerke BrühlDGHO e.V.ABCO Water SystemsGolem.deEVADXBnextGYMAInergyml&sOdiseo SolutionsAnnotaARGEAphy AG
Konfigurationen und Preise

Zwei feste Einstiege für kontinuierliche GPU-Workloads

Beide Konfigurationen enthalten den dedizierten GPU-Server, ein abgestimmtes Modell, vLLM, Open WebUI und den Managed-Betrieb durch WZ-IT.

Managed GPU Server 20

Kompakter Einstieg für eine dedizierte, vollständig betreute Modell- und Inferenzumgebung.

599,90 €netto / Monat

499 € netto Einrichtung einmalig

  • NVIDIA RTX 4000 SFF Ada
  • 20 GB GDDR6 ECC GPU-Speicher
  • 6.144 CUDA-Kerne
  • 70 W maximale GPU-Leistungsaufnahme

Managed GPU Server 96

96 GB VRAM

Betreute Modell- und Inferenzumgebung für größere Modelle, längere Kontexte und höhere Parallelität.

1.599,90 €netto / Monat

999 € netto Einrichtung einmalig

  • NVIDIA RTX PRO 6000 Blackwell Max-Q
  • 96 GB GDDR7 ECC GPU-Speicher
  • 24.064 CUDA-Kerne
  • 1.792 GB/s Speicherbandbreite

Alle Pläne beinhalten

  • Dedizierter Server mit dedizierter GPU im deutschen Rechenzentrum
  • Ein abgestimmtes Modell mit gemanagter vLLM-Inferenzschicht
  • Open WebUI als gemanagte Benutzeroberfläche
  • Proaktives 24/7 Monitoring von Host, GPU, vLLM und Open WebUI
  • OS-, Treiber-, vLLM- und Open-WebUI-Pflege mit CVE-Einordnung
  • Incident-Bearbeitung, Dokumentation und persönlicher Ansprechpartner
Managed-Betrieb

GPU-Hardware und Betriebsverantwortung zusammen gedacht

WZ-IT stellt nicht nur Rechenleistung bereit. Wir halten den vereinbarten technischen Unterbau über den laufenden Betrieb nachvollziehbar und betreubar.

Bereitstellung und Härtung

Linux, administrative Zugänge, Firewall-Grundschutz, NVIDIA-Treiber, vLLM, Open WebUI und ein abgestimmtes Modell werden eingerichtet.

24/7 Monitoring

Host, GPU-Zustand, Kapazität und vereinbarte Dienste werden proaktiv überwacht. Relevante Ereignisse fließen in den Betriebsprozess.

Updates und CVE-Einordnung

Betriebssystem, Treiber, vLLM und Open WebUI werden auf Security Advisories geprüft und kontrolliert aktualisiert. Kritische Anwendungslücken werden priorisiert behandelt.

Incident und Service Level

Störungen werden nach dem vereinbarten Service Level aufgenommen, technisch eingeordnet und dokumentiert bearbeitet.

Dokumentation und Ansprechpartner

Konfiguration, Zuständigkeiten und relevante Änderungen bleiben nachvollziehbar. Ihr Ansprechpartner kennt die vereinbarte Umgebung.

Standort und Datenwege

Der Server steht in Deutschland. Externe APIs, Telemetrie, Integrationen und Backupziele werden als eigene Datenwege betrachtet und abgestimmt.

Einrichtung

Von der Workload-Annahme zum überwachten Server

Die einmalige Einrichtung schafft eine dokumentierte, überwachte Modellumgebung. Individuelle Integrationen werden davon getrennt abgegrenzt.

  1. 1

    Workload einordnen

    Modell, Quantisierung, Kontext, Parallelität und weitere Rechenlasten gegen 20 oder 96 GB GPU-Speicher prüfen.

  2. 2

    Server bereitstellen

    Hostsystem, Linux, Zugänge, Netzwerk, NVIDIA-Treiber, vLLM, Open WebUI und das abgestimmte Modell konfigurieren.

  3. 3

    Betrieb anbinden

    Monitoring, Alarmwege, Wartungsfenster, Service Level und Betriebsdokumentation einrichten.

  4. 4

    Technisch abnehmen

    GPU, Modell-Endpunkt, Open WebUI, Erreichbarkeit und Monitoring gemeinsam prüfen und den vereinbarten Zustand übergeben.

Separat nach Scope

Weitere Modelle, RAG, SSO, eigene Integrationen und Datenpipelines, umfangreiche Datensicherung, Multi-GPU und Hochverfügbarkeit werden passend zum Vorhaben ergänzt.

Einsatz und Sizing

Die passende GPU ergibt sich aus dem tatsächlichen Workload

Parameterzahl allein reicht für die Auswahl nicht. Quantisierung, Kontextlänge, gleichzeitige Nutzer, Batch-Größe, KV-Cache und Runtime bestimmen den Speicher- und Leistungsbedarf.

20 GB für kontrollierte Einstiege

Geeignet für kompakte Inferenzmodelle, Embeddings, Bild- und Videoverarbeitung, Entwicklungsumgebungen und klar begrenzte produktive APIs. Den konkreten Modell-Fit prüfen wir vor der Bereitstellung.

96 GB für größere Arbeitslasten

Mehr GPU-Speicher schafft Spielraum für größere Modelle, längere Kontexte, höhere Parallelität, multimodale Pipelines und ausgewählte Fine-Tuning-Verfahren.

Mehr als eine GPU oder HA

Multi-GPU, getrennte Inferenz- und Trainingssysteme, Hochverfügbarkeit und Cluster werden nicht in einen Standardpreis gepresst, sondern technisch geplant.

Inklusive Plattform

Modell, vLLM und Open WebUI gehören zum Paket

Beide Konfigurationen werden als nutzbare und gemanagte Modellumgebung bereitgestellt. Die Auswahl des Modells bleibt vom GPU-Speicher und tatsächlichen Workload abhängig.

vLLM

Modell und vLLM

Ein abgestimmtes Modell wird über eine gemanagte vLLM-Inferenzschicht bereitgestellt. API, Runtime, Updates und Monitoring gehören zum Paket.

Open WebUI

Open WebUI

Gemanagte Chat- und Benutzeroberfläche für den Zugriff auf das bereitgestellte Modell. Basiskonfiguration, Betrieb, Updates und Monitoring gehören zum Paket.

Betriebsmodell

Dedizierter Server oder stundenweise GPU-Cloud?

Ein fester Managed GPU-Server ist nicht für jeden Workload die wirtschaftlichste Form. Die Nutzungsdauer und die gewünschte Betriebsverantwortung entscheiden.

Stundenweise GPU-Cloud

  • Für sporadische Experimente und kurze Batch-Jobs
  • Kapazität flexibel starten und wieder freigeben
  • Betrieb und Kosten hängen vom gewählten Cloud-Dienst ab

Managed dedizierter GPU-Server

  • Für kontinuierliche oder regelmäßig hohe GPU-Auslastung
  • Dedizierte Ressourcen und planbarer Monatspreis
  • Monitoring, Wartung und technischer Betrieb durch WZ-IT

Unverbindliche Anfrage

GPU-Konfiguration technisch einordnen lassen

Nennen Sie Modell, Quantisierung, Kontext, gleichzeitige Nutzung und gewünschte Anwendungsschicht. Wir prüfen, ob 20 GB, 96 GB oder eine individuelle Architektur passt.

Welche Konfiguration soll geprüft werden?

Die Auswahl ist unverbindlich. Modell-Fit, Hostsystem, Laufzeit und Bereitstellung werden vor einem Angebot bestätigt.

Wie sollen wir antworten?

Antwort in der Regel innerhalb eines Werktags. Bitte senden Sie noch keine Zugangsdaten.

Häufige Fragen zum Managed GPU-Server

Preise, Leistungsumfang, GPU-Auswahl, Zugriff und Erweiterungen

Der Managed GPU Server 20 kostet 599,90 € netto pro Monat zuzüglich 499 € netto einmaliger Einrichtung. Der Managed GPU Server 96 kostet 1.599,90 € netto pro Monat zuzüglich 999 € netto einmaliger Einrichtung. Hostsystem, RAM, Speicher, Netzwerk, Laufzeit und Bereitstellung werden im Angebot bestätigt.

Ja. Die angebotenen Standardkonfigurationen basieren auf einem dedizierten Server mit einer dedizierten NVIDIA GPU. Multi-GPU- und Clusterkonfigurationen planen wir separat.

Zum Grundumfang gehören die vereinbarte Server- und GPU-Infrastruktur, Linux-Basissystem, NVIDIA-Treiber, ein abgestimmtes Modell, vLLM, Open WebUI, sichere Administration, proaktives 24/7 Monitoring, Updates und CVE-Einordnung der betreuten Komponenten, Incident-Bearbeitung nach Service Level, Betriebsdokumentation und ein persönlicher Ansprechpartner.

Das hängt nicht nur von der Parameterzahl ab. Quantisierung, Kontextlänge, gleichzeitige Anfragen, Batch-Größe, KV-Cache, Runtime und weitere Workloads beeinflussen den GPU-Speicher. Deshalb bestätigen wir den Modell-Fit vor der Bereitstellung.

Ja. Eigene Modelle, Container und Anwendungen können im vereinbarten technischen Rahmen betrieben werden. Administrative Rechte und Änderungswege stimmen wir so ab, dass die Managed-Verantwortung nachvollziehbar bleibt.

Ja. Ein passend zur Konfiguration abgestimmtes Modell, die gemanagte vLLM-Inferenzschicht und Open WebUI sind in beiden Paketen enthalten. Weitere Modelle, RAG, SSO, Datenmigration und individuelle Integrationen werden separat eingeordnet.

Ja. Multi-GPU, getrennte Systeme für Inferenz und Training, redundante Modell-Endpunkte und Cluster sind möglich. Diese Architekturen benötigen individuelles Sizing und ein separates Angebot.

Der angebotene Server steht in einem deutschen Rechenzentrum. Ob der gesamte Datenweg in Deutschland bleibt, hängt zusätzlich von externen APIs, Telemetrie, Modellquellen, Integrationen und Backupzielen ab. Diese Pfade werden im vereinbarten Scope geprüft und dokumentiert.

Wissensdatenbank

Vertiefende Guides zu diesem Thema

Blog & Tutorials

Verwandte Tutorials & Guides

Bewertungen

Was Kunden über die Zusammenarbeit sagen

Von der lokalen KI-Integration bis zu Architektur, Datenhoheit und laufendem Betrieb.

ml&sDGHO e.V.AnnotaGolem.deStadtwerke BrühlABCO Water SystemsCORGOSRekorderKeymateFührerscheinmacherSolidProofARGE
DeutschlandVernetzung & ProvisioningVPNAutomatisierungBetrieb

WZ-IT hat unsere Studio-Infrastruktur von dezentralen Einzelgeräten auf eine zentrale Plattform gehoben: Jeder Standort ist per VPN sicher angebunden, neue Geräte werden automatisiert onboardet und ein kompletter Standort wird per Vorlage provisioniert - ohne manuelle Schritte vor Ort. Was mich am meisten beeindruckt hat, ist die Breite und Tiefe des Wissens: Timo und Robin sind kein normaler IT-Dienstleister, der einen Server aufsetzt und wieder geht. Die beiden denken sich in hochkomplexe Infrastruktur- und Softwarethemen rein, arbeiten sich in jede Anforderung ein, die wir ihnen hinlegen, und bauen Vernetzung, Provisioning und Betrieb so auf, dass am Ende alles zusammenpasst. WZ-IT ist ein hervorragender Partner, wenn es um komplexe Software-, Netzwerk- und Architekturprojekte geht.

Steve Kirchner

Steve Kirchner

Geschäftsführer, nextGYM GmbH

H
DeutschlandLokale KI-IntegrationTechnische IntegrationImplementierung
Auf der Suche nach einem Partner für die Integration einer lokalen KI-Lösung sind wir auf Timo und Robin gestoßen - und hätten keine bessere Entscheidung treffen können. Unsere Anforderungen wurden schnell verstanden und technische Herausforderungen kompetent und praxisorientiert gelöst. Besonders überzeugt haben uns die unkomplizierte Zusammenarbeit, die hohe Fachkompetenz und die schnelle Umsetzung. Wir freuen uns, Timo und Robin als zuverlässige Geschäftspartner an unserer Seite zu haben, und blicken gespannt auf die nächsten gemeinsamen Projekte.

Henrik Jeche

Head of IT Administration | Leiter IT-Administration

ml&s - Full-Service-Anbieter für die Elektronikindustrie.

ml&s
Lokale KI-Lösung integrieren
Christoph Mußmann
DeutschlandInfrastruktur-ModernisierungDatenhoheitDSGVODokumentation
Die Kommunikation mit WZ-IT war von Anfang an sehr offen, freundlich und professionell. Herr Wevelsiep und Herr Zins sind sehr geduldig, zeitnah und wertschätzend auf jede unserer Fragen eingegangen und haben eigene Vorschläge und gute Ideen eingebracht, wie wir unsere Serverinfrastruktur modernisieren und noch besser an unsere Bedürfnisse anpassen können. WZ-IT hat dabei stets unseren Wunsch nach Datenhoheit und Unterstützung von Datenschutzanforderungen berücksichtigt und konsequent mitgedacht. Selbst kurzfristige Anpassungen und Änderungswünsche von unserer Seite wurden schnell und geduldig umgesetzt und konsequent in das Gesamtkonzept integriert. Von der Planung bis hin zur abschließenden Übergabe wurden alle Schritte transparent und umfassend dokumentiert, was uns ermöglicht, falls ein Dienstleisterwechsel nötig werden sollte, diesen anhand der Dokumentation sehr schnell in unsere Infrastruktur einzuweisen. Wir sind äußerst zufrieden mit WZ-IT und hoffen, dass wir noch lange zusammenarbeiten werden.

Christoph Mußmann

Projektreferent, DGHO e.V.

DGHO - Deutsche Gesellschaft für Hämatologie und Medizinische Onkologie e.V.

DGHO e.V.
Souveräne Infrastruktur modernisieren
Matthias Zimmermann
DeutschlandOpen Source ArchitekturImplementierungTechnische Beratung
Wir haben sehr gute Erfahrungen mit Herrn Wevelsiep und WZ-IT gemacht. Die Beratung war professionell, klar verständlich und zu fairen Preisen. Das Team hat nicht nur unsere Anforderungen umgesetzt, sondern mit- und proaktiv weitergedacht. Statt nur einzelne Aufträge abzuarbeiten, wurden uns fundierte Erklärungen geliefert, die unser eigenes Verständnis gestärkt haben. WZ-IT uns mit ihrer strukturierten Herangehensweise viel Druck abgenommen - das war genau das, was wir brauchten und ist der Grund, warum wir immer wieder gerne zurück kommen.

Matthias Zimmermann

Geschäftsführer, Annota GmbH

Annota - HealthTech-Startup mit KI-Dokumentationsassistent.

Annota
Open-Source-KI-Architektur entwerfen
Andrea Pawlowski
DeutschlandArchitekturberatungSouveräne SoftwareauswahlOpen-Source-Strategie
Timo und Robin habe ich als engagierte und professionelle Gesprächspartner kennengelernt, die für einen Kunden so einiges möglich machen, das erst mal unmöglich scheint. Ich fühlte mich sehr gut beraten. Die angebotenen Leistungen haben mich sehr überzeugt.

Andrea Pawlowski

Communications Manager, Golem.de

Golem.de - führendes deutsches IT-Fachmedium.

Golem.de
Souveränen Open-Source-Stack planen
Pascal Block
DeutschlandProxmox & BackupProxmoxBackupDokumentation
Professionell, ehrlich und fachlich absolut fundiert: WZ-IT hat unsere Proxmox- und Backup-Infrastruktur sicher und zukunftsfähig aufgestellt. Die Beratung durch Timo und Robin war sachlich und bedarfsorientiert, die Umsetzung reibungslos und die finale Dokumentation vorbildlich. Man merkt sofort, dass hier geschäftskritische Infrastruktur von Anfang an ganzheitlich gedacht und mit klarer Verantwortung umgesetzt wird.

Pascal Block

Projektmanager, Stadtwerke Brühl GmbH

Stadtwerke Brühl - kommunaler Energie- und Infrastrukturdienstleister.

Stadtwerke Brühl GmbH
Proxmox & Backup absichern lassen
Sonja Aßer
DeutschlandSoftwareentwicklungPHP-ModernisierungAPI-Erweiterung
Mit Timo und Robin ist man nicht nur technisch auf der sicheren Seite - sondern auch menschlich bestens betreut! Ob es um schnelle Hilfe im Alltag oder komplexe IT-Lösungen geht: Die Jungs von WZ-IT denken mit, handeln schnell und sprechen eine Sprache, die man versteht. Die Zusammenarbeit ist unkompliziert, zuverlässig und immer auf Augenhöhe. So macht IT richtig Spaß - und vor allem: Sie funktioniert! Großes Dankeschön an das Team!

Sonja Aßer

Data Manager, ARGE

ARGE Neue Medien - Stammdaten & digitale Standards für die SHK- und Gebäudetechnik.

ARGE
Legacy-Software modernisieren
Aleksandr Shuliko
VAECloud MigrationAWS ExitProxmox81 % Kostenreduktion
Ich habe vor kurzem mit Timo und dem WZ-IT Team zusammengearbeitet, und ehrlich gesagt war es eine der besten Tech-Entscheidungen, die ich für mein Unternehmen getroffen habe. Von Anfang an hat sich Timo die Zeit genommen, mir jeden Schritt ruhig und verständlich zu erklären. Egal wie viele Fragen ich hatte, er hat mich nie gehetzt. Die Ergebnisse sprechen für sich: Mit WZ-IT haben wir unsere monatlichen Ausgaben von 1.300 $ auf 250 $ reduziert. Das war ein riesiger Gewinn für uns. (übersetzt)

Aleksandr Shuliko

CTO, EVA Real Estate

EVA Real Estate - führende Immobilienagentur in Dubai.

EVA Real Estate
Cloud-Kosten senken - bis −81 %
Pascal Hakkers
SchweizManaged ProxmoxClusterMonitoringHigh Availability
WZ-IT verwaltet unser Proxmox-Cluster zuverlässig und professionell. Das Team übernimmt für uns das kontinuierliche Monitoring und regelmäßige Updates und reagiert sehr schnell auf Probleme oder Anfragen. Durch den proaktiven Support von WZ-IT bleiben unser Cluster und die darauf laufenden geschäftskritischen Anwendungen stabil, und die Hochverfügbarkeit ist durchgehend gewährleistet. Wir schätzen die professionelle Zusammenarbeit und die spürbare Entlastung im Tagesgeschäft. (übersetzt)

Pascal Hakkers

Aphy AG

Aphy AG - KI-Plattform für das Backoffice in der Hotellerie.

Aphy AG
HA-Proxmox-Cluster aufbauen
John Hellmerichs
DeutschlandProxmox & VirtualisierungBackupVPNSecurity
WZ-IT hat uns bei der Umsetzung unserer Server- und Virtualisierungsinfrastruktur sehr kompetent unterstützt. Im Rahmen des Projekts wurde eine Proxmox-basierte Virtualisierungsumgebung aufgebaut und eine virtuelle Maschine für unsere Anwendungssysteme eingerichtet. Darüber hinaus wurde ein strukturiertes Backup-Konzept implementiert. Ein besonderer Fokus lag auf dem Thema Sicherheit: Die Einrichtung eines VPN-Tunnels sowie die saubere Umsetzung von Verschlüsselungs- und Zugriffskonzepten wurden professionell umgesetzt. Hervorzuheben ist die strukturierte Beratung sowie die zuverlässige und zügige Umsetzung. Wir sind mit der erbrachten Leistung sehr zufrieden und empfehlen WZ-IT gerne weiter.

John Hellmerichs

Geschäftsführer, AInergy GmbH

AInergy - Beratung für Energie- und Facility-Management.

AInergy GmbH
Mit Managed Proxmox virtualisieren
Sebastian Maier
BulgarienSouveräne KollaborationOpen-Source-StackBetriebWartung
Timo und Robin von WZ-IT haben für uns einen RocketChat-Server aufgesetzt - und ich könnte nicht zufriedener sein! Von der ersten Beratung bis zur finalen Implementierung lief alles absolut professionell, effizient und zu meiner vollsten Zufriedenheit. Besonders schätze ich die klare Kommunikation, die transparente Preisgestaltung und das umfassende Fachwissen, das die beiden mitbringen. Auch nach der Einrichtung übernehmen sie die Wartung, was mir enorm den Rücken freihält und mir ermöglicht, mich auf andere wichtige Bereiche meines Business zu konzentrieren - mit dem guten Gefühl, dass unsere IT in den besten Händen ist. Ich kann WZ-IT uneingeschränkt weiterempfehlen und freue mich auf die weitere Zusammenarbeit!

Sebastian Maier

Geschäftsführer, Yonju GmbH

Yonju - Business-Coaching und KI-Produkte.

Yonju
Kollaboration managen lassen
Gabriel Sanz Señor
SpanienProduction DeploymentCI/CDPaaSBetrieb
Auf das WZ-IT Team zu setzen war entscheidend. Ihre Expertise und Lösungen haben uns das Tempo gegeben, unsere Services in Produktion zu deployen - inklusive Verbesserungsvorschlägen für unsere Konfiguration. Wir freuen uns auf die weitere Zusammenarbeit für Wartung und neue Lösungen. (übersetzt)

Gabriel Sanz Señor

Geschäftsführer, Odiseo Solutions

Odiseo Solutions - Softwareentwicklung für die Raumfahrt.

Odiseo Solutions
Vom Prototyp in den Betrieb
Kontakt

Lassen Sie uns über Ihre Idee sprechen

Ob konkrete IT-Herausforderung oder einfach eine Idee - wir freuen uns auf den Austausch. In einem kurzen Gespräch prüfen wir gemeinsam, ob und wie Ihr Projekt zu WZ-IT passt.

E-Mail
[email protected]
Rückruf vereinbaren

Rückruf

Rückruf vereinbaren

Nummer hinterlassen, wir rufen zurück — spätestens am nächsten Werktag.

Für ein ausführliches Gespräch können Sie alternativ einen Termin buchen.

Unternehmen weltweit vertrauen WZ-IT

  • ml&s
  • Rekorder
  • Keymate
  • Führerscheinmacher
  • SolidProof
  • ARGE
  • Boese VA
  • nextGYM
  • Maho Management
  • Golem.de
  • Millenium
  • Paritel
  • Yonju
  • EVADXB
  • Mr. Clipart
  • Aphy AG
  • Negosh
  • ABCO Water Systems
1/3 - Themenauswahl33%

Worum geht es bei Ihrer Anfrage?

Wählen Sie zuerst den Leistungsbereich, der am besten zu Ihrem Vorhaben passt.