Sie brauchen GPU-Leistung für ein eigenes Sprachmodell, aber keinen Server, um den sich Ihr Team nachts kümmern muss. Wir stellen dedizierte NVIDIA-GPU-Server in einem deutschen Rechenzentrum bereit, mit abgestimmtem Modell, vLLM, Open WebUI, 24/7-Monitoring und Updates.
Konfigurationen und Preise
Beide Konfigurationen enthalten den dedizierten GPU-Server, ein abgestimmtes Modell, vLLM, Open WebUI und den Managed-Betrieb durch WZ-IT.
Kompakter Einstieg für eine dedizierte, vollständig betreute Modell- und Inferenzumgebung.
Betreute Modell- und Inferenzumgebung für größere Modelle, längere Kontexte und höhere Parallelität.
Alle Preise verstehen sich netto zuzüglich gesetzlicher Umsatzsteuer. Die Angebote richten sich an Unternehmen.
Mehr-GPU-Server
Dedizierte Server mit zwei, drei oder vier NVIDIA RTX PRO 6000 Blackwell Max-Q im deutschen Rechenzentrum, mit vLLM, Open WebUI und Managed-Betrieb durch WZ-IT. CPU, Arbeitsspeicher und Storage stellen wir passend zum Workload zusammen; Preis, Einrichtung und Laufzeit nennen wir im Angebot. Praxisbericht: Qwen3.5-122B auf zwei RTX PRO 6000
Ein großes Modell per Tensor-Parallelität über beide GPUs, etwa ein Modell der 120-B-Klasse in FP8 mit Reserve für Kontext und gleichzeitige Nutzer.
192 GB GPU-SpeicherPreis auf AnfrageIm Konfigurator anfragen 3 × RTX PRO 6000 Blackwell Max-QMehrere Modelle parallel, je auf einer eigenen GPU, etwa ein Chat-, ein Vision- und ein Embedding-Modell. Für ein einzelnes großes Modell sind zwei oder vier GPUs die passende Wahl.
288 GB GPU-SpeicherPreis auf AnfrageIm Konfigurator anfragen 4 × RTX PRO 6000 Blackwell Max-QSehr große Modelle oder ein großes Modell mit vielen gleichzeitigen Nutzern und langen Kontexten, per Tensor-Parallelität über alle vier GPUs.
384 GB GPU-SpeicherPreis auf AnfrageIm Konfigurator anfragenManaged-Betrieb
WZ-IT stellt nicht nur Rechenleistung bereit. Wir halten den vereinbarten technischen Unterbau über den laufenden Betrieb nachvollziehbar und betreubar.
Beide Konfigurationen werden als nutzbare und gemanagte Modellumgebung bereitgestellt. Die Auswahl des Modells bleibt vom GPU-Speicher und tatsächlichen Workload abhängig.
Modell und vLLMEin abgestimmtes Modell wird über eine gemanagte vLLM-Inferenzschicht bereitgestellt. API, Runtime, Updates und Monitoring gehören zum Paket.
Managed vLLM ansehenKomplettes LLM-Hosting ansehen
Open WebUIGemanagte Chat- und Benutzeroberfläche für den Zugriff auf das bereitgestellte Modell. Basiskonfiguration, Betrieb, Updates und Monitoring gehören zum Paket.
Mehr zu Open WebUILinux, administrative Zugänge, Firewall-Grundschutz, NVIDIA-Treiber, vLLM, Open WebUI und ein abgestimmtes Modell werden eingerichtet.
Der Server steht in Deutschland. Externe APIs, Telemetrie, Integrationen und Backupziele werden als eigene Datenwege betrachtet und abgestimmt.
Host, GPU-Zustand, Kapazität und vereinbarte Dienste werden proaktiv überwacht. Relevante Ereignisse fließen in den Betriebsprozess.
Störungen werden nach dem vereinbarten Service Level aufgenommen, technisch eingeordnet und dokumentiert bearbeitet.
Betriebssystem, Treiber, vLLM und Open WebUI werden auf Security Advisories geprüft und kontrolliert aktualisiert. Kritische Anwendungslücken werden priorisiert behandelt.
Konfiguration, Zuständigkeiten und relevante Änderungen bleiben nachvollziehbar. Ihr Ansprechpartner kennt die vereinbarte Umgebung.
Einrichtung
Einrichtung
Die einmalige Einrichtung schafft eine dokumentierte, überwachte Modellumgebung. Individuelle Integrationen werden davon getrennt abgegrenzt.
Modell, Quantisierung, Kontext, Parallelität und weitere Rechenlasten gegen 24 oder 96 GB GPU-Speicher prüfen.
Hostsystem, Linux, Zugänge, Netzwerk, NVIDIA-Treiber, vLLM, Open WebUI und das abgestimmte Modell konfigurieren.
Monitoring, Alarmwege, Wartungsfenster, Service Level und Betriebsdokumentation einrichten.
GPU, Modell-Endpunkt, Open WebUI, Erreichbarkeit und Monitoring gemeinsam prüfen und den vereinbarten Zustand übergeben.
Einsatz und Sizing
Parameterzahl allein reicht für die Auswahl nicht. Quantisierung, Kontextlänge, gleichzeitige Nutzer, Batch-Größe, KV-Cache und Runtime bestimmen den Speicher- und Leistungsbedarf.
Modell, Quantisierung, Kontext und Parallelität im Detail:
VRAM-Sizing im Knowledge-Bereich vertiefenBetriebsmodell
Ein fester Managed GPU-Server ist nicht für jeden Workload die wirtschaftlichste Form. Die Nutzungsdauer und die gewünschte Betriebsverantwortung entscheiden.
Ein gemieteter GPU-Server ist nur ein Teil der Kosten. Beim Eigenbetrieb kommen Arbeitszeit und Bereitschaft dazu, die in keiner Preisliste stehen.
| Server mieten und selbst betreiben | Managed GPU Server |
|---|---|
| Monatliche Servermiete beim Hoster | Ein Monatspreis für Server und Betrieb, dazu einmalige Einrichtung |
| Einrichtung von Betriebssystem, Treibern, CUDA, vLLM, Open WebUI, TLS und Zugängen durch Ihr Team | Modell, vLLM und Open WebUI eingerichtet und abgestimmt |
| Laufende Treiber-, vLLM- und Sicherheitsupdates mit eigener CVE-Bewertung | Updates von Betriebssystem, Treibern, vLLM und Open WebUI mit CVE-Einordnung |
| Monitoring und Bereitschaft, auch nachts und am Wochenende | Proaktives 24/7-Monitoring und Incident-Bearbeitung |
| Modellwechsel, Tests und Dokumentation, oft abhängig von einer Person | Dokumentation und persönlicher Ansprechpartner |
Angebot einordnen
Jede Seite übernimmt eine eigene Aufgabe. So landen Hardware, Modellbereitstellung und laufender Plattformbetrieb nicht in einem unklaren Gesamtangebot.
Wenn ein betriebener Modell-Endpunkt, eine OpenAI-kompatible API oder eine komplette Inferenzschicht benötigt wird.
Angebot ansehenWenn eine bestehende oder individuell geplante KI-Plattform mit Modellen, Runtimes und Anwendungen übernommen werden soll.
Angebot ansehenWenn die KI-Hardware am eigenen Standort stehen und als lokale Appliance betrieben werden soll.
Angebot ansehenPreise, Leistungsumfang, GPU-Auswahl, Zugriff und Erweiterungen
Wissensdatenbank
Bewertungen & Projekte
Von der lokalen KI-Integration bis zu Architektur, Datenhoheit und laufendem Betrieb.
WZ-IT hat unsere Studio-Infrastruktur von dezentralen Einzelgeräten auf eine zentrale Plattform gehoben: Jeder Standort ist per VPN sicher angebunden, neue Geräte werden automatisiert onboardet und ein kompletter Standort wird per Vorlage provisioniert - ohne manuelle Schritte vor Ort. Was mich am meisten beeindruckt hat, ist die Breite und Tiefe des Wissens: Timo und Robin sind kein normaler IT-Dienstleister, der einen Server aufsetzt und wieder geht. Die beiden denken sich in hochkomplexe Infrastruktur- und Softwarethemen rein, arbeiten sich in jede Anforderung ein, die wir ihnen hinlegen, und bauen Vernetzung, Provisioning und Betrieb so auf, dass am Ende alles zusammenpasst. WZ-IT ist ein hervorragender Partner, wenn es um komplexe Software-, Netzwerk- und Architekturprojekte geht.
Steve KirchnerGeschäftsführer, nextGYM GmbH
International
WZ-IT plant, entwickelt und betreibt Infrastruktur und Software für Kunden in Deutschland und international. Projekte setzen wir remote um und begleiten sie auch nach dem Go-live im laufenden Betrieb.
Unverbindliche Anfrage
Nennen Sie Modell, Quantisierung, Kontext, gleichzeitige Nutzung und gewünschte Anwendungsschicht. Wir prüfen, ob 24 GB, 96 GB oder eine individuelle Architektur passt.
Kein Risiko: Im schlechtesten Fall gehen Sie mit mehr Klarheit über Ihr Projekt heraus als vorher.
Die Beratung von WZ-IT zu unserer Azure-Migration war schon im Erstgespräch fachlich sehr fundiert und völlig unverbindlich - wir haben eine Menge mitgenommen.
Jakob ÖschlbergerInno7 GmbH
Die Beratung von WZ-IT zu unserer Azure-Migration war schon im Erstgespräch fachlich sehr fundiert und völlig unverbindlich - wir haben eine Menge mitgenommen.
