Sie wollen ein Sprachmodell auf einer dedizierten GPU betreiben, aber Treiber, vLLM und Monitoring nicht selbst übernehmen? Der Managed GPU Server steht in einem deutschen Rechenzentrum, mit 24 GB VRAM für 699 € oder 96 GB VRAM für 1.799 € netto im Monat zzgl. Einrichtung, inklusive Modell, vLLM, Open WebUI und Betrieb. Erstgespräch vereinbaren
Hetzner hat sein GPU-Sortiment im Herbst 2026 umgebaut: Am 1. September kam der GEX45, am 6. Oktober der GEX63, und der GEX44 ist nicht mehr bestellbar. Viele Vergleiche im Netz nennen deshalb Modelle und Preise, die nicht mehr gelten.
Dieser Beitrag fasst alle bestellbaren Hetzner GPU-Server in einer Tabelle zusammen: GPU, VRAM, CPU, RAM, Storage, Standort, Preis netto und brutto, Einrichtung, Laufzeit und Kosten je GB VRAM. Dazu kommen die LLM-Größen, die auf 24 und 96 GB passen, der Aufwand für den Eigenbetrieb und die Frage, wann eine API die bessere Wahl ist. Alle Angaben Stand 13. Oktober 2026.
Inhaltsverzeichnis
- Die Hetzner GPU-Server im Überblick
- Preise und Kosten je GB VRAM
- Stundenpreis und Abrechnung
- Welche LLMs auf 24 und 96 GB passen
- GEX63 oder GEX131
- Standort: Deutschland oder Helsinki
- Was ein selbst betriebener GPU-Server braucht
- Selbst betreiben oder Managed GPU Server
- Wann eine API oder GPU-Cloud besser passt
- Verbreitete Irrtümer
- Stand und Methodik
- Unser Vorgehen bei WZ-IT
- Weiterführende Guides
Die Hetzner GPU-Server im Überblick
Hetzner bietet GPUs als dedizierte Root-Server der GEX-Linie an. Die Hetzner-Dokumentation führt fünf aktuelle Servertypen in drei Modellen:
| Modell | GPU | VRAM | Bandbreite | CPU | RAM | NVMe | Standort |
|---|---|---|---|---|---|---|---|
| GEX45 | RTX PRO 4000 Blackwell SFF | 24 GB GDDR7 ECC | 432 GB/s | Intel Core i5-13500 (14 Kerne, 20 Threads) | 64 GB DDR4 | 2 × 512 GB | HEL1 |
| GEX63 | RTX PRO 6000 Blackwell Max-Q | 96 GB GDDR7 ECC | 1.792 GB/s | Intel Core Ultra 7 265 (20 Kerne) | 128 GB DDR5 | 2 × 1,92 TB | HEL1 |
| GEX131-1 | RTX PRO 6000 Blackwell Max-Q | 96 GB GDDR7 ECC | 1.792 GB/s | Intel Xeon Gold 5412U (24 Kerne, 48 Threads) | 256 GB DDR5 ECC | 2 × 960 GB | FSN1, HEL1 |
| GEX131-2 | RTX PRO 6000 Blackwell Max-Q | 96 GB GDDR7 ECC | 1.792 GB/s | Intel Xeon Gold 5412U | 512 GB DDR5 ECC | 2 × 1,92 TB | FSN1, HEL1 |
| GEX131-3 | RTX PRO 6000 Blackwell Max-Q | 96 GB GDDR7 ECC | 1.792 GB/s | Intel Xeon Gold 5412U | 768 GB DDR5 ECC | 4 × 3,84 TB | FSN1, HEL1 |
Die GPU-Daten stammen von NVIDIA (RTX PRO 4000 Blackwell SFF, RTX PRO 6000 Blackwell Max-Q), die Serverdaten von den Produktseiten und dem Konfigurator.
Für alle Modelle gilt:
- Eine GPU je Server. Zusätzliche Grafikkarten lassen sich laut Dokumentation nicht einbauen.
- Netz: 1-Gbit/s-Port mit garantierter Bandbreite und unbegrenztem Traffic. Nur der GEX131 lässt sich mit einem 10-Gbit-Uplink für 43 € netto im Monat ausstatten; dann wird Traffic über 20 TB berechnet.
- Zugang: voller Root-Zugriff, eine IPv4-Adresse, IPv6-Subnetz, Rescue-System und Images unter anderem für Debian und Ubuntu.
- Laufzeit: keine Mindestvertragslaufzeit, Kündigung sofort.
Nicht mehr im Sortiment sind der GEX44 mit RTX 4000 SFF Ada (20 GB GDDR6), dessen Produktseite auf den GEX45 weiterleitet und dessen Bestellseite ihn als derzeit nicht verfügbar führt, sowie der GEX130 mit RTX 6000 Ada (48 GB). Rechenzentrums-GPUs wie H100 oder H200 führt Hetzner nicht.
Preise und Kosten je GB VRAM
Alle Preise inklusive einer IPv4-Adresse (1,70 € netto im Monat), Stand 13.10.2026. Die englischen Pressemitteilungen von Hetzner nennen Nettopreise („All prices without VAT“), die deutschen Bruttopreise mit 19 % USt.; die Website rechnet die Umsatzsteuer je nach gewähltem Land auf.
| Modell | Monat netto | Monat brutto (19 % USt.) | Einrichtung netto | € je GB VRAM und Monat | € je GB VRAM über 12 Monate inkl. Einrichtung |
|---|---|---|---|---|---|
| GEX45 | 214,00 € | 254,66 € | 209 € | 8,92 € | 9,64 € |
| GEX63 | 999,00 € | 1.188,81 € | 999 € | 10,41 € | 11,27 € |
| GEX131-1 | 1.499,00 € | 1.783,81 € | 1.499 € | 15,61 € | 16,92 € |
| GEX131-2 | 2.099,00 € | 2.497,81 € | 2.099 € | 21,86 € | 23,69 € |
| GEX131-3 | 2.699,00 € | 3.211,81 € | 2.699 € | 28,11 € | 30,46 € |
Die Preise für GEX45 und GEX63 bestätigen die Pressemitteilungen (GEX45: 254,66 € brutto, GEX63: 1.188,81 € brutto), die GEX131-Preise die Preisdaten der Produktseite.
Drei Punkte fallen auf:
- Der GEX45 ist das günstigste GB VRAM, aber 24 GB begrenzen die Modellgröße.
- Der GEX63 liefert dieselbe 96-GB-GPU wie der GEX131-1 für 500 € weniger im Monat, ein Drittel unter dem GEX131-1.
- GEX131-2 und -3 kosten mehr, ohne mehr VRAM zu bieten. Der Aufpreis bezahlt Arbeitsspeicher und Storage.
Die Preise steigen. Der GEX131 startete im Dezember 2025 bei 889 € netto ohne Einrichtungsgebühr (seit 16.12.2025: 159 €). In der Preisliste zur Anpassung vom 15. Juni 2026 stand der GEX131-1 bei 1.197,30 € ohne IPv4 und 599 € Einrichtung. Am 13.10.2026 sind es 1.499 € und 1.499 €. Der GEX44 kostete zum Start im März 2024 184 € netto.
Stundenpreis und Abrechnung
Hetzner nennt neben dem Monatspreis einen Stundenpreis. Laut Abrechnungsdokumentation wird stundengenau berechnet, angefangene Stunden werden aufgerundet, und die Summe liegt nie über dem Monatspreis.
| Modell | Stundenpreis netto | Monatspreis erreicht nach | Eine Woche (168 h) inkl. Einrichtung |
|---|---|---|---|
| GEX45 | 0,3429 € | 624 Stunden | 266,61 € |
| GEX63 | 1,6009 € | 624 Stunden | 1.267,95 € |
| GEX131-1 | 2,4022 € | 624 Stunden | 1.902,57 € |
| GEX131-2 | 3,3638 € | 624 Stunden | 2.664,12 € |
| GEX131-3 | 4,3253 € | 624 Stunden | 3.425,65 € |
Für die Planung heißt das:
- Ab rund 26 Tagen Laufzeit gilt der volle Monatspreis.
- Ausschalten spart nichts. Ein Server wird berechnet, solange er im Account besteht. Wer nicht mehr zahlen will, muss kündigen.
- Die Einrichtungsgebühr fällt je Bestellung an. Bei kurzen Projekten macht sie den größten Teil der Kosten aus, beim GEX63 rund 79 % einer Woche.
Welche LLMs auf 24 und 96 GB passen
Die Rechnung folgt dem Artikel GPU und VRAM für LLMs dimensionieren: Die Gewichte brauchen rund 2 GB je Milliarde Parameter in FP16, rund 1 GB in FP8 und rund 0,5 GB bei 4-Bit-Quantisierung. vLLM belegt standardmäßig 92 % des GPU-Speichers (--gpu-memory-utilization), auf 24 GB also rund 22 GB, auf 96 GB rund 88 GB.
Die Tabelle zeigt, wie viel von diesem Budget nach den Gewichten übrig bleibt. Davon gehen einige GB für Aktivierungen und CUDA-Graphen ab, der Rest steht dem KV-Cache zur Verfügung, also Kontext und gleichzeitigen Anfragen.
| Klasse | Beispiel (Parameter) | Gewichte in GB, FP16 / FP8 / 4 Bit | Rest auf 24 GB, FP16 / FP8 / 4 Bit | Rest auf 96 GB, FP16 / FP8 / 4 Bit |
|---|---|---|---|---|
| 8B | Qwen3-8B (8,2 Mrd.) | 16 / 8 / 4 | 6 / 14 / 18 | 72 / 80 / 84 |
| 14B | Qwen3-14B (14,8 Mrd.) | 30 / 15 / 7 | zu groß / 7 / 15 | 58 / 73 / 81 |
| 32B | Qwen3-32B (32,8 Mrd.) | 66 / 33 / 16 | zu groß / zu groß / 6 | 22 / 55 / 72 |
| 70B | Llama 3.3 70B (70,6 Mrd.) | 141 / 71 / 35 | zu groß | zu groß / 17 / 53 |
| 120B | gpt-oss-120b (117 Mrd.) | 234 / 117 / 58 | zu groß | zu groß / zu groß / 30 |
So lesen sich die Zahlen:
- 24 GB (GEX45) tragen 8B- und 14B-Modelle mit Reserve für Kontext. Ein 32B-Modell passt nur in 4 Bit und lässt rund 6 GB, also wenig Platz für parallele Sitzungen.
- 96 GB (GEX63, GEX131) tragen 32B-Modelle in FP8 mit viel Kontext und 70B-Modelle in 4 Bit. gpt-oss-120b läuft laut Model Card in seiner MXFP4-Quantisierung auf einer einzelnen 80-GB-GPU.
- 4-Bit-Dateien sind in der Praxis größer als die Faustregel: Ein 70B-Modell belegt rund 40 bis 45 GB statt 35 GB.
- Die Architektur zählt beim Cache. Qwen3-32B braucht 256 KiB je Token (8 GiB für eine Sitzung mit 32.768 Token), das hybride Qwen3.8-27B nur 64 KiB. Auf 24 GB bleiben mit Qwen3.8-27B in 4 Bit rund 80.000 Token Cache, mit einem Modell mit 256 KiB je Token auf demselben Platz rund 20.000.
Über 96 GB hinaus bietet Hetzner keine Lösung in einem Server. Ein 120B-Modell in FP8 belegt rund 117 bis 125 GB (etwa Qwen3.5-122B-A10B-FP8) und braucht zwei GPUs, wie im Praxisbericht Qwen3.5-122B auf zwei RTX PRO 6000. Ein Modell über zwei Hetzner-Server zu verteilen, geht nur über das Netzwerk; die Varianten beschreibt Multi-GPU-Inferenz ohne NVLink.
Welche Konfiguration für einen konkreten Einsatz passt, hängt von Kontextlänge und gleichzeitigen Anfragen ab. Formeln und Rechenbeispiele stehen im Artikel zur VRAM-Dimensionierung, die Formate im Artikel LLM-Quantisierung.
GEX63 oder GEX131
Beide Server haben dieselbe GPU. Der Unterschied liegt in Plattform, Standort und Preis:
| GEX63 | GEX131-1 | |
|---|---|---|
| GPU | RTX PRO 6000 Blackwell Max-Q, 96 GB | identisch |
| CPU | Core Ultra 7 265, 8 Performance- und 12 Effizienzkerne | Xeon Gold 5412U, 24 Kerne, 48 Threads |
| Arbeitsspeicher | 128 GB DDR5 UDIMM, laut Konfigurator ohne ECC | 256 GB DDR5 ECC reg., als -2/-3 bis 768 GB |
| NVMe | 2 × 1,92 TB | 2 × 960 GB, als -3 bis 4 × 3,84 TB |
| Netz | 1 Gbit/s | 1 Gbit/s, optional 10 Gbit/s |
| Standort | Helsinki | Falkenstein oder Helsinki |
| Bereitstellung laut Hetzner | meist wenige Minuten | meist 10 bis 12 Werktage |
| Preis netto | 999 € + 999 € Einrichtung | 1.499 € + 1.499 € Einrichtung |
Die Bereitstellungszeiten stammen aus der Übersicht Order processing mit Stand 6. Oktober 2026.
Für die Inferenz eines einzelnen Modells ist der GEX63 die günstigere Wahl, weil die GPU über die Geschwindigkeit entscheidet. Der GEX131 lohnt sich, wenn einer dieser Punkte zutrifft: Standort Deutschland, ECC-Arbeitsspeicher, mehr als 128 GB RAM (etwa für Datenaufbereitung oder viele Container neben dem Modell), mehr lokaler Storage oder 10 Gbit/s.
Standort: Deutschland oder Helsinki
Hetzner betreibt eigene, nach ISO 27001 zertifizierte Rechenzentrumsparks in Nürnberg und Falkenstein (Deutschland) sowie Helsinki (Finnland). Bei den GPU-Servern ist der Standort an das Modell gebunden:
| VRAM | in Deutschland (FSN1) | nur in Finnland (HEL1) |
|---|---|---|
| 24 GB | kein Angebot | GEX45 |
| 96 GB | GEX131-1/-2/-3 ab 1.499 € netto | GEX63 für 999 € netto |
Datenschutzrechtlich ist Helsinki kein Drittland. Finnland ist EU-Mitglied, und nach Art. 1 Abs. 3 DSGVO darf der freie Verkehr personenbezogener Daten in der Union aus Datenschutzgründen weder eingeschränkt noch verboten werden. Ein Server in HEL1 ist damit nicht schlechter gestellt als einer in Falkenstein.
Ein Standort in Deutschland ist trotzdem oft Vorgabe, etwa in Kundenverträgen, Ausschreibungen oder internen Richtlinien. Dann bleibt bei Hetzner für 96 GB nur der GEX131 und für 24 GB derzeit kein Modell. Der Managed GPU Server von WZ-IT steht in beiden Größen in einem deutschen Rechenzentrum.
Der Standort allein bestimmt den Datenweg nicht. Modell-Downloads, externe APIs, Telemetrie und Backup-Ziele sind eigene Datenwege, die ebenfalls festgelegt werden müssen.
Was ein selbst betriebener GPU-Server braucht
Hetzner liefert Hardware, Netz und Images. Die Dokumentation zu den GPU-Servern stellt klar, dass der Kunde für alle üblichen Administrationsaufgaben verantwortlich ist, ausdrücklich Software, Monitoring, RAID-Konfiguration, Backups und Sicherheit. Für einen produktiven LLM-Server sind das diese Bausteine:
| Baustein | Was zu tun ist | Zu beachten |
|---|---|---|
| Betriebssystem | Debian oder Ubuntu installieren, Software-RAID über die NVMe-Laufwerke einrichten | Die RAID-Konfiguration ist laut Hetzner Kundensache |
| NVIDIA-Treiber | Treiber mit Open-GPU-Kernelmodulen | Für Blackwell sind die proprietären Module nicht unterstützt |
| CUDA | Toolkit und Container-Runtime | Blackwell-Unterstützung ab CUDA 12.8, Linux-Treiber ab 570.26 |
| Inferenz-Server | vLLM für eine OpenAI-kompatible API mit mehreren Nutzern, Ollama eher für Tests | Unterschiede im Artikel vLLM vs. Ollama |
| Oberfläche | Open WebUI oder eigene Anwendung | Benutzerverwaltung und Datenbank gehören ins Backup |
| Zugriffsschutz | Reverse Proxy mit TLS und Authentifizierung | --api-key in vLLM schützt laut Dokumentation nicht alle Endpunkte; Ollama bindet standardmäßig nur auf 127.0.0.1:11434 |
| Firewall | Robot-Firewall (zustandslos, kostenlos) plus Host-Firewall | Nur Proxy-Port nach außen öffnen |
| Monitoring | GPU-Werte über den DCGM Exporter, vLLM-Metriken über /metrics, Alarmierung |
Jemand muss auf Alarme reagieren, auch nachts |
| Updates | OS, Treiber, CUDA, vLLM, Open WebUI | Sicherheitsmeldungen verfolgen, siehe Ollama-Lücke CVE-2026-7482 |
| Backup | Konfiguration, Open-WebUI-Datenbank, RAG-Daten auf ein externes Ziel, etwa eine Storage Box | Modellgewichte lassen sich neu laden, Chats und Dokumente nicht |
Die einmalige Einrichtung ist dabei der kleinere Teil. Laufend bleiben Updates, die Bewertung von Sicherheitslücken, Modellwechsel und die Bereitschaft bei Störungen.
Selbst betreiben oder Managed GPU Server
Ein selbst betriebener GEX ist die günstigste Art, eine dedizierte GPU zu bekommen. Der Managed GPU Server von WZ-IT nutzt dieselben GPU-Modelle und enthält den Betrieb. Der Vergleich in Zahlen, alle Preise netto:
| Hetzner GEX, selbst betrieben | Managed GPU Server von WZ-IT | |
|---|---|---|
| 24 GB VRAM | GEX45: 214 € im Monat + 209 € Einrichtung | Managed GPU Server 24: 699 € im Monat + 499 € Einrichtung |
| 96 GB VRAM | GEX63: 999 € + 999 € (Helsinki), GEX131-1: 1.499 € + 1.499 € (Falkenstein oder Helsinki) | Managed GPU Server 96: 1.799 € + 999 € |
| GPU | RTX PRO 4000 Blackwell SFF oder RTX PRO 6000 Blackwell Max-Q | RTX PRO 4000 Blackwell SFF oder RTX PRO 6000 Blackwell Max-Q |
| Standort | 24 GB nur Helsinki, 96 GB in Deutschland nur GEX131 | Rechenzentrum in Deutschland |
| Laufzeit | keine Mindestlaufzeit | monatlich kündbar |
| Erstes Jahr inkl. Einrichtung | GEX45 2.777 €, GEX63 12.987 €, GEX131-1 19.487 € | 8.887 € (24 GB), 22.587 € (96 GB) |
| € je GB VRAM und Monat | 8,92 € / 10,41 € / 15,61 € | 29,13 € (24 GB) / 18,74 € (96 GB) |
| Treiber, CUDA, Betriebssystem | Ihr Team | WZ-IT |
| Modell, vLLM, Open WebUI | selbst einrichten | ein abgestimmtes Modell mit vLLM und Open WebUI eingerichtet |
| Monitoring | selbst aufbauen | proaktives 24/7-Monitoring von Host, GPU, vLLM und Open WebUI |
| Updates und Sicherheitslücken | selbst bewerten und einspielen | OS, Treiber, vLLM und Open WebUI mit CVE-Einordnung |
| Störungen | Ihr Team, auch nachts und am Wochenende | Incident-Bearbeitung nach vereinbartem Service Level |
| Mehr als eine GPU | nicht möglich | 2, 3 oder 4 × RTX PRO 6000 auf Anfrage |
Selbst betreiben passt, wenn im Team Linux-, NVIDIA- und vLLM-Kenntnisse vorhanden sind und jemand Bereitschaft übernehmen kann. Dann ist ein GEX deutlich günstiger.
Managed passt, wenn niemand im Team nachts auf Alarme reagieren soll, wenn 24 GB in einem deutschen Rechenzentrum gebraucht werden oder wenn Betrieb und Änderungen dokumentiert nachweisbar sein müssen. Weitere Modelle, RAG, SSO und Hochverfügbarkeit ergänzen wir nach Umfang.
Ein GEX läuft bereits? Den Betrieb vorhandener KI-Server übernehmen wir nach technischer Prüfung auch beim Hoster des Kunden, siehe KI-Server Wartung und Betrieb. Der Preis richtet sich nach Konfiguration und Umfang.
Wann eine API oder GPU-Cloud besser passt
Ein dedizierter Server rechnet sich bei dauerhafter Nutzung. Für andere Lastprofile gibt es passendere Wege:
| Situation | Passender Weg |
|---|---|
| Modell ausprobieren, Prototyp, wenige Anfragen | Hetzner Inference API oder eine Modell-API |
| Batch-Jobs über einige Stunden oder Tage im Monat | stundenweise GPU-Cloud, weil beim GEX je Bestellung die Einrichtung anfällt |
| Schwankende Last, Daten dürfen zu einem europäischen Anbieter | Europäische LLM-API |
| Tägliche Nutzung durch ein Team, Daten bleiben auf dem eigenen Server | dedizierter GPU-Server, selbst betrieben oder managed |
| Modelle über 96 GB oder mehrere große Modelle parallel | Server mit mehreren GPUs, etwa Managed GPU Server mit 2 bis 4 GPUs |
Die Hetzner Inference API ist ein experimenteller Dienst mit OpenAI-kompatibler Schnittstelle. Stand Oktober 2026 bietet er Qwen3.6-35B-A3B-FP8 und Qwen3.8-27B mit je 262.144 Token Kontext. Er ist kostenlos, solange er experimentell ist, und begrenzt auf 10 Anfragen sowie 4 Millionen Eingabe- und 100.000 Ausgabe-Token je Minute und API-Key. Hetzner speichert laut Dokumentation keine Inhalte von Anfragen und Antworten, gibt aber keine Garantie für Leistung und Verfügbarkeit und rät von produktiver Nutzung ab. Für einen ersten Test mit Open-Weight-Modellen ist das ein guter Einstieg, für einen produktiven Dienst nicht.
Eine Entscheidungshilfe zwischen Modell-API und eigener Inferenz enthält der Artikel Cloud-KI oder self-hosted.
Verbreitete Irrtümer
„Mehr VRAM macht das Modell schneller.“ Die VRAM-Größe entscheidet, ob Modell und KV-Cache auf die Karte passen und wie viele Anfragen parallel laufen. Die Token-Erzeugung ist nach NVIDIA überwiegend durch die Speicherbandbreite begrenzt. Die RTX PRO 6000 ist schneller als die RTX PRO 4000, weil sie mit 1.792 GB/s gut die vierfache Bandbreite hat, nicht wegen der 96 GB.
„Max-Q heißt gedrosselt und für LLMs ungeeignet.“ Die Max-Q-Edition ist auf 300 W statt 600 W ausgelegt. Laut NVIDIA liegt ihre theoretische KI-Spitzenleistung bei 3.511 statt 4.000 AI TOPS, rund 12 % unter der Workstation Edition. Speicher und Bandbreite sind identisch: 96 GB GDDR7 mit ECC und 1.792 GB/s.
„Der GEX131 ist schneller als der GEX63, weil er mehr kostet.“ Beide haben dieselbe GPU. Der Aufpreis bezahlt CPU, ECC-Arbeitsspeicher, Storage, Netzoption und den Standort Falkenstein.
„Ein Mixture-of-Experts-Modell braucht nur Speicher für die aktiven Parameter.“ Bei MoE-Modellen müssen alle Parameter geladen sein. Qwen3.6-35B-A3B rechnet mit rund 3 Milliarden aktiven Parametern, belegt aber Speicher für 36 Milliarden.
„Hetzner-Server stehen in Deutschland.“ GEX45 und GEX63 gibt es nur in Helsinki. In Falkenstein ist ausschließlich der GEX131 bestellbar.
„Ausschalten spart Kosten.“ Hetzner berechnet einen Server, solange er im Account besteht. Kosten enden erst mit der Kündigung, und jede neue Bestellung löst die Einrichtungsgebühr erneut aus.
„Mit --api-key ist vLLM abgesichert.“ Laut vLLM-Dokumentation bleiben einzelne Endpunkte auch mit API-Key ohne Authentifizierung erreichbar. Empfohlen ist ein Reverse Proxy, der nur die benötigten Endpunkte freigibt.
Stand und Methodik
- Erhebung: 13. Oktober 2026.
- Hetzner-Daten: Produktseiten und Konfigurator der Modelle GEX45, GEX63 und GEX131, die von der Website verwendeten Preisdaten, Pressemitteilungen sowie die Dokumentation zu GPU-Servern, Bereitstellungszeiten, Abrechnung und Preisanpassung.
- GPU-Daten: NVIDIA-Produktseiten der RTX PRO 4000 Blackwell SFF, RTX PRO 6000 Blackwell Max-Q und RTX PRO 6000 Blackwell Workstation Edition.
- Modelldaten: Parameterzahlen aus den Hugging-Face-Model-Cards.
- Preise: netto inklusive einer IPv4-Adresse (1,70 €). Brutto = netto × 1,19. Stundenpreis = Server plus IPv4.
- € je GB VRAM und Monat = Monatspreis netto ÷ VRAM in GB.
- € je GB VRAM über 12 Monate = (12 × Monatspreis + Einrichtung) ÷ 12 ÷ VRAM.
- Monatsgrenze = Monatspreis ÷ Stundenpreis.
- LLM-Tabelle: Gewichte = Parameter × 2 Byte (FP16), × 1 Byte (FP8), × 0,5 Byte (4 Bit). Rest = vLLM-Budget (0,92 × VRAM, also 22 GB bzw. 88 GB) minus Gewichte, gerundet auf ganze GB.
- WZ-IT-Preise: netto zzgl. USt. laut Angebotsseite Managed GPU Server.
Preise und Verfügbarkeit ändern sich; verbindlich ist die Bestellseite des Anbieters. Tabellen und Zahlen dürfen mit Quellenangabe und Link auf diesen Beitrag weiterverwendet werden.
Unser Vorgehen bei WZ-IT
Wir stellen dedizierte GPU-Server mit Betrieb bereit und betreuen vorhandene KI-Server.
- Workload einordnen: Modell, Quantisierung, Kontext, gleichzeitige Nutzung und weitere Rechenlasten gegen 24 oder 96 GB GPU-Speicher prüfen.
- Managed GPU Server: Managed GPU Server 24 mit RTX PRO 4000 Blackwell SFF für 699 € netto im Monat plus 499 € Einrichtung, Managed GPU Server 96 mit RTX PRO 6000 Blackwell Max-Q für 1.799 € plus 999 €, beide monatlich kündbar und in einem deutschen Rechenzentrum.
- Im Paket: ein abgestimmtes Modell mit vLLM, Open WebUI, proaktives 24/7-Monitoring, Pflege von Betriebssystem, Treibern, vLLM und Open WebUI mit CVE-Einordnung, Incident-Bearbeitung nach Service Level, Dokumentation und ein persönlicher Ansprechpartner.
- Mehr als 96 GB: Server mit zwei, drei oder vier RTX PRO 6000 Blackwell Max-Q (192, 288 oder 384 GB), Preis auf Anfrage.
- Vorhandener Server: Betrieb von KI-Servern beim Hoster des Kunden nach technischer Prüfung über KI-Server Wartung und Betrieb.
Wenn ein selbst betriebener GEX oder eine Modell-API besser passt, sagen wir Ihnen das.
Weiterführende Guides
- GPU und VRAM für LLMs dimensionieren - Formel für Gewichte, KV-Cache und Overhead
- Multi-GPU-Inferenz ohne NVLink - Tensor Parallelism, Pipeline Parallelism oder Replicas
- vLLM mit Qwen3.5-122B auf zwei RTX PRO 6000 - Praxisbericht für Modelle über 96 GB
- Managed GPU Server 96 mit RTX PRO 6000 Blackwell - die 96-GB-Konfiguration im Detail
- vLLM, Ollama oder llama.cpp - welche Inferenz-Software zu welchem Einsatz passt
- Europäische LLM-APIs im Vergleich - wenn eine API statt eigener GPU reicht
- Hetzner Cloud oder Dedicated Server? - alle Typen mit Preis je vCPU und GB RAM
- GPU auf Proxmox: Passthrough und vGPU - GPU-Server virtualisieren
- Hetzner-Expertise von WZ-IT - Betrieb von Servern in Ihrem Hetzner-Account
Sie wollen ein eigenes Sprachmodell betreiben und suchen die passende GPU? Wir prüfen Modell, Kontext und Nutzerzahl und schlagen den passenden Weg vor: selbst betriebener Server, Managed GPU Server oder API. Erstgespräch vereinbaren
Quellen
- Hetzner: GPU-Server Übersicht
- Hetzner: GEX45
- Hetzner: GEX63
- Hetzner: GEX131
- Hetzner Docs: GPU-Server, mögliche Konfigurationen und Add-ons
- Hetzner Pressemitteilung: GEX45 (01.09.2026)
- Hetzner Pressemitteilung: GEX63 (06.10.2026)
- Hetzner Pressemitteilung: GEX131 (11.12.2025)
- Hetzner Pressemitteilung: GEX44 (04.03.2024)
- Hetzner Pressemitteilung: GEX130 (24.09.2024)
- Hetzner Robot: Bestellseite GEX44
- Hetzner Docs: Preisanpassung 15. Juni 2026
- Hetzner Docs: Abrechnungssystem
- Hetzner Docs: Bereitstellungszeiten (Order processing)
- Hetzner Docs: Inference API
- Hetzner Docs: Robot-Firewall
- NVIDIA: RTX PRO 4000 Blackwell SFF Edition
- NVIDIA: RTX PRO 6000 Blackwell Max-Q Workstation Edition
- NVIDIA: RTX PRO 6000 Blackwell Workstation Edition
- NVIDIA Technical Blog: Mastering LLM Techniques, Inference Optimization
- NVIDIA Technical Blog: Open-Source GPU Kernel Modules
- NVIDIA: CUDA 12.8 Release Notes
- vLLM: Engine-Argumente
- vLLM: Security
- vLLM: Metrics
- Ollama: FAQ
- NVIDIA DCGM Exporter
- Hugging Face: Mixture of Experts Explained
- Hugging Face: gpt-oss-120b Model Card
- Verordnung (EU) 2016/679 (DSGVO)












