[email protected]

Upgrade-Announcement: Unsere Cloud GPU Server laufen jetzt auf NVIDIA RTX 6000 Blackwell

Upgrade-Announcement: Unsere Cloud GPU Server laufen jetzt auf NVIDIA RTX 6000 Blackwell

Hinweis zum Inhalt: Die Informationen in diesem Artikel wurden nach bestem Wissen zum Zeitpunkt der Veröffentlichung zusammengestellt. Technische Details, Preise, Versionen, Lizenzmodelle und externe Inhalte können sich ändern. Bitte prüfen Sie die genannten Angaben eigenständig, insbesondere vor geschäftskritischen oder sicherheitsrelevanten Entscheidungen. Dieser Artikel ersetzt keine individuelle Fach-, Rechts- oder Steuerberatung.

Ihr Modell braucht mehr GPU-Speicher, als eine 48-GB-Karte bietet? Der Managed GPU Server 96 stellt eine dedizierte NVIDIA RTX PRO 6000 Blackwell Max-Q mit 96 GB bereit, inklusive abgestimmtem Modell, vLLM, Open WebUI und 24/7 Monitoring im deutschen Rechenzentrum. 2.199 € netto pro Monat zuzüglich 1.999 € einmaliger Einrichtung. Managed GPU Server ansehen · Termin vereinbaren

Stand Oktober 2026: Das Angebot hieß zum Zeitpunkt dieser Umstellung AI Server Pro und heißt heute Managed GPU Server 96. Preis und Leistungsumfang in diesem Beitrag sind auf den aktuellen Stand gebracht.

Im Managed GPU Server 96 setzen wir nicht mehr auf die RTX 6000 Ada, sondern auf die NVIDIA RTX PRO 6000 Blackwell Max-Q. Damit steht deutlich mehr Headroom für große Modelle, längere Kontexte und höhere Durchsatzanforderungen bereit.


Inhaltsverzeichnis


Die Kernänderungen auf einen Blick

1) Deutlich mehr VRAM: 96 GB statt 48 GB

Der Managed GPU Server 96 kommt mit 96 GB GDDR7 VRAM (ECC) in der Blackwell-Generation; die RTX 6000 Ada lag bei 48 GB GDDR6 (ECC). Das ist die wichtigste Änderung für LLMs, weil VRAM in der Praxis über Modellgröße, Kontextlänge, Batch-Größe und Parallelität entscheidet.

2) Neue Architektur (Blackwell) und neue Core-Generationen

Die RTX PRO 6000 Blackwell Serie bringt Blackwell-Architektur, 5th-Gen Tensor Cores und 4th-Gen RT Cores. Die RTX 6000 Ada basiert auf Ada Lovelace mit 4th-Gen Tensor Cores und 3rd-Gen RT Cores. Für AI-Workloads ist vor allem der Sprung bei den Tensor Cores relevant.

3) Plattform-Modernisierung: PCIe Gen 5 vs. PCIe Gen 4

Die RTX PRO 6000 Blackwell Varianten sind auf PCIe Gen 5 x16 ausgelegt, die RTX 6000 Ada auf PCIe Gen 4 x16. Das kann je nach Workload (z. B. Daten-Streaming, Multi-Node Pipelines) zusätzliche Reserven bringen.

4) Max-Q: Dichte & Effizienz für skalierbare Setups

Im Managed GPU Server 96 kommt die Max-Q-Variante zum Einsatz. NVIDIA positioniert diese explizit für dichte Konfigurationen und als Balance aus Performance und Energieeffizienz, also für Setups, die Performance pro Rack und Server optimieren.


Warum dieser Schritt: größere Modelle, längere Kontexte, mehr gleichzeitige Nutzer

In der Praxis sehen wir bei produktiven LLM-Anwendungen drei typische Engpässe:

  1. VRAM-Limit – Modell passt nicht vollständig in die GPU
  2. Time-to-First-Token – Prompt Processing / Prefill ist zu langsam
  3. Durchsatz – Token-Generierung unter Last zu niedrig

Mit Blackwell adressieren wir genau diese Punkte: mehr VRAM für große Modelle/Long Context und spürbar mehr Performance sowohl im Prompt Processing als auch bei der Token-Generierung.


Performance: Blackwell vs. Ada (LLM-Inference Benchmarks)

Für eine externe, nachvollziehbare Einordnung nutzen wir die Messwerte von Hardware Corner. Dort wird mit llama.cpp / llama-bench auf Ubuntu 24.04 und CUDA 12.8 getestet; die Token-Generation ist in Tokens/Sekunde, bei 4-bit Quantisierung (Q4_K_XL).

Token-Generierung bei 16K Kontext

Modell (16K Kontext, 4-bit) RTX 6000 Ada (t/s) RTX 6000 Blackwell (t/s) Vorteil Blackwell
Qwen3 8B 98,68 140,62 +42,5%
Qwen3 14B 58,51 96,86 +65,5%
Qwen3 30B 120,12 139,76 +16,4%
Qwen3 32B 25,08 45,72 +82,3%
gpt-oss 20B 137,10 237,92 +73,5%
Llama 70B 13,65 28,24 +106,9%

Quelle: Hardware Corner Token-Generation Tabelle (16K Kontext)

Wichtig für die Praxis: Je größer Modell und Kontext, desto eher zahlt sich Blackwell aus. Bei 65K Kontext sieht man in mehreren Fällen nahezu eine Verdopplung (oder mehr) der Token-Generierung – z. B. Qwen3 14B +123%, Qwen3 32B +173%.

Prompt Processing (Time-to-First-Token)

Das Prefill/Prompt-Processing ist oft der unterschätzte Faktor. Bei 16K Kontext:

Modell RTX 6000 Ada (tok/s) RTX 6000 Blackwell (tok/s) Vorteil
Qwen3 8B 4.096 7.588 +85%
Llama 3.3 70B 526 1.355 +158%

Das ist besonders relevant bei RAG (lange Prompts), Tool-Use oder Multi-Turn Chats – weil es direkt die gefühlte Responsiveness beeinflusst.


Was Ihnen 96 GB VRAM konkret ermöglichen

Der größte Sprung ist nicht „nur" schneller – sondern mehr machbar auf einer einzelnen GPU:

  • 100B+-Klasse ohne Offloading / ohne Multi-GPU als Zwang: Die 96-GB-Klasse ist die praktikable Single-GPU-Option, wenn Modelle im 100B+ Parameterbereich ohne System-RAM-Offloading laufen sollen.
  • Mit Blackwell laufen auch große Modelle wie GPT-OSS 120B oder Mistral Large 2 (123B) direkt auf einer GPU. Das neuere Mistral Large 3 ist dagegen ein Mixture-of-Experts-Modell mit 675 Milliarden Parametern (41 Milliarden aktiv) und passt nicht in 96 GB.

Vergleich: Was passt auf welche GPU?

Modell RTX 6000 Ada (48 GB) RTX 6000 Blackwell (96 GB)
Llama 3.1 8B (Q4) ✅ ✅
Llama 3.1 70B (Q4) ⚠️ knapp ✅
Qwen3 32B (Q4) ✅ ✅
GPT-OSS 120B (MXFP4) ❌ ✅
Mistral Large 2 (123B, Q4) ❌ ✅

Was bleibt gleich: Ihr Stack, Ihre Kontrolle, Ihr Standort

Der GPU-Wechsel ändert nichts am Grundprinzip unserer Managed GPU Server:

  • Serverstandort Deutschland: dedizierter Server in einem deutschen Rechenzentrum. Externe APIs, Telemetrie und Backupziele werden als eigene Datenwege abgestimmt.
  • Dedizierte GPU-Ressourcen ohne Sharing: eine dedizierte NVIDIA GPU pro Server
  • Abgestimmtes Modell, vLLM und Open WebUI sind im Monatspreis enthalten
  • Managed-Betrieb: proaktives 24/7 Monitoring, OS-, Treiber-, vLLM- und Open-WebUI-Updates mit CVE-Einordnung, Incident-Bearbeitung nach Service Level
  • Die 96 GB schaffen Spielraum für ausgewählte Fine-Tuning-Verfahren; Umfang und Architektur stimmen wir je Vorhaben ab

Hinweis zur Übertragbarkeit der Benchmarks

Die oben zitierten Werte stammen aus einem klar definierten Test-Setup (llama.cpp/llama-bench, CUDA 12.8, 4-bit Quantisierung). In produktiven Umgebungen (z. B. vLLM, andere Quantisierungen, Batch-Settings, KV-Cache-Strategien) können absolute Zahlen abweichen. Die Max-Q-Variante arbeitet zudem mit einer niedrigeren Leistungsaufnahme als die Workstation Edition. Die Richtung (mehr VRAM und deutlicher Performance-Sprung) bleibt konsistent.


Verfügbarkeit & nächster Schritt

Der Managed GPU Server 96 mit NVIDIA RTX PRO 6000 Blackwell Max-Q (96 GB GDDR7 ECC) kostet 2.199 € netto pro Monat zuzüglich 1.999 € netto einmaliger Einrichtung. Für kompaktere Modelle gibt es den Managed GPU Server 24 mit NVIDIA RTX PRO 4000 Blackwell SFF Edition (24 GB GDDR7 ECC) für 699 € netto pro Monat zuzüglich 499 € Einrichtung. Hostsystem, Laufzeit und Bereitstellung werden im Angebot bestätigt.

Wenn Sie bereits ein konkretes Ziel haben (z. B. „70B-Chat mit 32K Kontext und X parallelen Nutzern" oder „RAG mit großem Dokumentenkorpus"), prüfen wir vor der Bereitstellung, ob 24 GB, 96 GB oder eine individuelle Architektur passt.

Managed GPU Server ansehen · Termin vereinbaren


Weiterführende Guides

Timo Wevelsiep

Geschrieben von

Timo Wevelsiep

Co-Founder & CEO

Co-Founder von WZ-IT. Spezialisiert auf Cloud-Infrastruktur, Open-Source-Plattformen und Managed Services für KMUs und Enterprise-Kunden weltweit.

Häufig gestellte Fragen

Antworten auf wichtige Fragen zu diesem Thema

Kunden aus Mittelstand, Industrie und öffentlicher Hand, in Deutschland und international

  • Stadtwerke Brühl
  • DGHO e.V.
  • solarwerkstatt berlin
  • Krüger Dirndl
  • ABCO Water Systems
  • Golem.de
  • EVADXB
  • nextGYM
  • AInergy
  • ml&s
  • Odiseo Solutions
  • Annota
  • ARGE
  • SweetConnect GmbH
  • Aphy AG
  • CORGOS
  • Rekorder
  • SolidProof
  • Yonju
  • Keymate
  • Paritel
  • Mr. Clipart
  • Millenium
  • Negosh
  • Führerscheinmacher
  • BTI
  • Deutsche Gesellschaft für Datenschutz
Kundenstimmen ansehen

Anfrage

Blackwell-GPU-Kapazität für Ihren Workload anfragen

Wir prüfen Modell, Kontext und Parallelität und stellen einen passend konfigurierten Managed GPU Server 96 mit RTX PRO 6000 Blackwell bereit.

  • Sie sprechen direkt mit Timo und Robin, den technisch Verantwortlichen
  • Fachliche Einschätzung Ihrer Situation
  • Konkrete nächste Schritte für Infrastruktur, Software oder KI

Das Gespräch ist kostenfrei und unverbindlich.

Die Beratung von WZ-IT zu unserer Azure-Migration war schon im Erstgespräch fachlich sehr fundiert und völlig unverbindlich - wir haben eine Menge mitgenommen.
Jakob ÖschlbergerInno7 GmbH
Timo und Robin, Gründer von WZ-IT

Was möchten Sie auf dem GPU-Server betreiben?

Die Beratung von WZ-IT zu unserer Azure-Migration war schon im Erstgespräch fachlich sehr fundiert und völlig unverbindlich - wir haben eine Menge mitgenommen.
Jakob ÖschlbergerInno7 GmbH