Sie brauchen GPU-Leistung für ein eigenes Sprachmodell, aber keinen Server, um den sich Ihr Team nachts kümmern muss. Wir stellen dedizierte NVIDIA-GPU-Server in einem deutschen Rechenzentrum bereit, mit abgestimmtem Modell, vLLM, Open WebUI, 24/7-Monitoring und Updates.
Konfigurationen und Preise
Beide Konfigurationen enthalten den dedizierten GPU-Server, ein abgestimmtes Modell, vLLM, Open WebUI und den Managed-Betrieb durch WZ-IT.
Kompakter Einstieg für eine dedizierte, vollständig betreute Modell- und Inferenzumgebung.
Betreute Modell- und Inferenzumgebung für größere Modelle, längere Kontexte und höhere Parallelität.
Alle Preise verstehen sich netto zuzüglich gesetzlicher Umsatzsteuer. Die Angebote richten sich an Unternehmen.
Mehr-GPU-Server
Dedizierte Server mit zwei, drei oder vier NVIDIA RTX PRO 6000 Blackwell Max-Q im deutschen Rechenzentrum, mit vLLM, Open WebUI und Managed-Betrieb durch WZ-IT. CPU, Arbeitsspeicher und Storage stellen wir passend zum Workload zusammen; Preis, Einrichtung und Laufzeit nennen wir im Angebot. Praxisbericht: Qwen3.5-122B auf zwei RTX PRO 6000
Ein großes Modell per Tensor-Parallelität über beide GPUs, etwa ein Modell der 120-B-Klasse in FP8 mit Reserve für Kontext und gleichzeitige Nutzer.
192 GB GPU-SpeicherPreis auf AnfrageIm Konfigurator anfragen 3 × RTX PRO 6000 Blackwell Max-QMehrere Modelle parallel, je auf einer eigenen GPU, etwa ein Chat-, ein Vision- und ein Embedding-Modell. Für ein einzelnes großes Modell sind zwei oder vier GPUs die passende Wahl.
288 GB GPU-SpeicherPreis auf AnfrageIm Konfigurator anfragen 4 × RTX PRO 6000 Blackwell Max-QSehr große Modelle oder ein großes Modell mit vielen gleichzeitigen Nutzern und langen Kontexten, per Tensor-Parallelität über alle vier GPUs.
384 GB GPU-SpeicherPreis auf AnfrageIm Konfigurator anfragenManaged-Betrieb
WZ-IT stellt nicht nur Rechenleistung bereit. Wir halten den vereinbarten technischen Unterbau über den laufenden Betrieb nachvollziehbar und betreubar.
Beide Konfigurationen werden als nutzbare und gemanagte Modellumgebung bereitgestellt. Die Auswahl des Modells bleibt vom GPU-Speicher und tatsächlichen Workload abhängig.
Modell und vLLMEin abgestimmtes Modell wird über eine gemanagte vLLM-Inferenzschicht bereitgestellt. API, Runtime, Updates und Monitoring gehören zum Paket.
Managed vLLM ansehenKomplettes LLM-Hosting ansehen
Open WebUIGemanagte Chat- und Benutzeroberfläche für den Zugriff auf das bereitgestellte Modell. Basiskonfiguration, Betrieb, Updates und Monitoring gehören zum Paket.
Mehr zu Open WebUILinux, administrative Zugänge, Firewall-Grundschutz, NVIDIA-Treiber, vLLM, Open WebUI und ein abgestimmtes Modell werden eingerichtet.
Der Server steht in Deutschland. Externe APIs, Telemetrie, Integrationen und Backupziele werden als eigene Datenwege betrachtet und abgestimmt.
Host, GPU-Zustand, Kapazität und vereinbarte Dienste werden proaktiv überwacht. Relevante Ereignisse fließen in den Betriebsprozess.
Störungen werden nach dem vereinbarten Service Level aufgenommen, technisch eingeordnet und dokumentiert bearbeitet.
Betriebssystem, Treiber, vLLM und Open WebUI werden auf Security Advisories geprüft und kontrolliert aktualisiert. Kritische Anwendungslücken werden priorisiert behandelt.
Konfiguration, Zuständigkeiten und relevante Änderungen bleiben nachvollziehbar. Ihr Ansprechpartner kennt die vereinbarte Umgebung.
Einrichtung
Einrichtung
Die einmalige Einrichtung schafft eine dokumentierte, überwachte Modellumgebung. Individuelle Integrationen werden davon getrennt abgegrenzt.
Modell, Quantisierung, Kontext, Parallelität und weitere Rechenlasten gegen 24 oder 96 GB GPU-Speicher prüfen.
Hostsystem, Linux, Zugänge, Netzwerk, NVIDIA-Treiber, vLLM, Open WebUI und das abgestimmte Modell konfigurieren.
Monitoring, Alarmwege, Wartungsfenster, Service Level und Betriebsdokumentation einrichten.
GPU, Modell-Endpunkt, Open WebUI, Erreichbarkeit und Monitoring gemeinsam prüfen und den vereinbarten Zustand übergeben.
Einsatz und Sizing
Parameterzahl allein reicht für die Auswahl nicht. Quantisierung, Kontextlänge, gleichzeitige Nutzer, Batch-Größe, KV-Cache und Runtime bestimmen den Speicher- und Leistungsbedarf.
Modell, Quantisierung, Kontext und Parallelität im Detail:
VRAM-Sizing im Knowledge-Bereich vertiefenBetriebsmodell
Ein fester Managed GPU-Server ist nicht für jeden Workload die wirtschaftlichste Form. Die Nutzungsdauer und die gewünschte Betriebsverantwortung entscheiden.
Ein gemieteter GPU-Server ist nur ein Teil der Kosten. Beim Eigenbetrieb kommen Arbeitszeit und Bereitschaft dazu, die in keiner Preisliste stehen.
| Server mieten und selbst betreiben | Managed GPU Server |
|---|---|
| Monatliche Servermiete beim Hoster | Ein Monatspreis für Server und Betrieb, dazu einmalige Einrichtung |
| Einrichtung von Betriebssystem, Treibern, CUDA, vLLM, Open WebUI, TLS und Zugängen durch Ihr Team | Modell, vLLM und Open WebUI eingerichtet und abgestimmt |
| Laufende Treiber-, vLLM- und Sicherheitsupdates mit eigener CVE-Bewertung | Updates von Betriebssystem, Treibern, vLLM und Open WebUI mit CVE-Einordnung |
| Monitoring und Bereitschaft, auch nachts und am Wochenende | Proaktives 24/7-Monitoring und Incident-Bearbeitung |
| Modellwechsel, Tests und Dokumentation, oft abhängig von einer Person | Dokumentation und persönlicher Ansprechpartner |
Angebot einordnen
Jede Seite übernimmt eine eigene Aufgabe. So landen Hardware, Modellbereitstellung und laufender Plattformbetrieb nicht in einem unklaren Gesamtangebot.
Wenn ein betriebener Modell-Endpunkt, eine OpenAI-kompatible API oder eine komplette Inferenzschicht benötigt wird.
Angebot ansehenWenn eine bestehende oder individuell geplante KI-Plattform mit Modellen, Runtimes und Anwendungen übernommen werden soll.
Angebot ansehenWenn die KI-Hardware am eigenen Standort stehen und als lokale Appliance betrieben werden soll.
Angebot ansehenPreise, Leistungsumfang, GPU-Auswahl, Zugriff und Erweiterungen
Wissensdatenbank
Bewertungen & Projekte
Von der Wissensdatenbank mit KI-Assistent über die lokale KI-Integration bis zu Datenhoheit und laufendem Betrieb.
KI-Plattform
Wir waren auf der Suche nach einer sicheren, aber trotzdem einfach nutzbaren Alternative zu den großen amerikanischen Anbietern und sind auf WZ-IT gestoßen. WZ-IT hat uns bei der Auswahl der passenden Modelle beraten und die Anbindung für uns umgesetzt. Vorab konnten wir alles in Ruhe auf einer Testinstanz ausprobieren. Heute betreibt WZ-IT Open WebUI für uns auf unserer eigenen Domain, mit komfortablem Microsoft-Login und Open-Source-Modellen, die bei einem deutschen Anbieter gehostet sind. Unser Team kann damit produktiv mit KI arbeiten, ohne auf externe Tools oder Schatten-KI auszuweichen. Die Zusammenarbeit ist unkompliziert, Rückfragen werden schnell und verständlich beantwortet. Mit WZ-IT haben wir außerdem einen Partner an der Seite, mit dem wir weitere KI-Projekte angehen können.
Carl-Frederic KornHead of E-Commerce & Online Marketing, Krüger Dirndl GmbH
Wissensmanagement & KI
Das Wissen aus vielen Jahren Solarbranche steckte im Kopf unseres früheren Geschäftsführers und steckt bis heute in den Köpfen unserer Mitarbeitenden. Wir wollten es sichern, nicht als Ordner voller Notizen, sondern so, dass wir im Alltag Fragen stellen und belastbare Antworten bekommen. WZ-IT hat uns dabei von Anfang an beraten und verschiedene Ansätze und Wissensmanagementsysteme mit uns gegeneinander abgewogen, bevor wir uns entschieden haben. Umgesetzt wurde eine individuelle Wissensdatenbank mit KI-Assistent, die Gespräche, Notizen, Dokumentationen und Handbücher zusammenführt: von der Plattform über das Onboarding unseres Teams bis zur Begleitung im Betrieb. Gespräche werden transkribiert und Fakten extrahiert, wir prüfen und korrigieren alles selbst, bevor es gespeichert wird, denn wir wollen einer KI nicht blind vertrauen. Das System läuft in unserer eigenen Umgebung, die Daten bleiben bei uns. Überrascht hat uns, wie effizient das ging: WZ-IT hat bestehende Open-Source-Software genutzt und gezielt auf unsere Anforderungen erweitert, statt eine teure Eigenentwicklung von Grund auf zu verkaufen, wie es bei IT-Dienstleistern sonst oft üblich ist. Timo und Robin haben unser eigentliches Problem verstanden, die Wissenssicherung beim Generationswechsel, und es Schritt für Schritt umgesetzt: vom Proof of Concept über Aufbau und Validierung mit unseren eigenen Daten bis in den produktiven Betrieb, und dabei alles verständlich erklärt. Als Nächstes wollen wir das auf das Wissen unserer Mitarbeitenden ausweiten, damit auch das nicht an einzelnen Personen hängt.
Joshua von AmelnGeschäftsführer, solarwerkstatt berlin GmbH
International
WZ-IT plant, entwickelt und betreibt Infrastruktur und Software für Kunden in Deutschland und international. Projekte setzen wir remote um und begleiten sie auch nach dem Go-live im laufenden Betrieb.
Unverbindliche Anfrage
Nennen Sie Modell, Quantisierung, Kontext, gleichzeitige Nutzung und gewünschte Anwendungsschicht. Wir prüfen, ob 24 GB, 96 GB oder eine individuelle Architektur passt.
Das Gespräch ist unverbindlich und kostenlos.
Die Beratung von WZ-IT zu unserer Azure-Migration war schon im Erstgespräch fachlich sehr fundiert und völlig unverbindlich - wir haben eine Menge mitgenommen.
Jakob ÖschlbergerInno7 GmbH
Die Beratung von WZ-IT zu unserer Azure-Migration war schon im Erstgespräch fachlich sehr fundiert und völlig unverbindlich - wir haben eine Menge mitgenommen.
