DGX Spark vs. AI Cube: Welche lokale KI-Hardware passt zu Ihrem Unternehmen?

WZ-IT AI Cube als lokalen KI-Server konfigurieren - GB10-Hardware, vollständige Ersteinrichtung, Härtung, vorab abgestimmtes lokales Modell und Support in einem definierten Lieferumfang. Erstgespräch vereinbaren

DGX Spark und WZ-IT AI Cube sind heute keine grundsätzlich unterschiedlichen Leistungsklassen. Beide basieren auf der NVIDIA-GB10-Klasse mit 128 GB Unified Memory. Wer nur GPU, Speicher oder beworbene FP4-Leistung vergleicht, vergleicht deshalb weitgehend dieselbe technische Kategorie.

Die eigentliche Entscheidung lautet: Kaufen Sie eine Hersteller-Appliance und bauen den produktiven KI-Stack selbst auf, oder beschaffen Sie ein vorkonfiguriertes System mit definiertem Einrichtungsumfang?

Inhaltsverzeichnis

• Die kurze Antwort
• Hardware und Lieferumfang im Vergleich
• Was 128 GB Unified Memory praktisch bedeuten
• Wann DGX Spark passt
• Wann der WZ-IT AI Cube passt
• Wann beide Systeme zu klein sind
• Kosten richtig vergleichen
• Entscheidungsmatrix

Die kurze Antwort

DGX Spark passt, wenn ein technisch erfahrenes Team die NVIDIA-Entwicklungsumgebung selbst verwalten, Modelle auswählen und die Arbeitsoberfläche, Identitäten, Datenquellen, Updates und Backups eigenständig aufbauen möchte.

Der WZ-IT AI Cube passt, wenn dieselbe kompakte GB10-Klasse plug-and-play vorbereitet als lokaler KI-Server geliefert werden soll: mit gehärteter Basisinstallation, Open WebUI, Ollama und/oder vLLM, einem vorab abgestimmten Modell, Dokumentation und technischer Einbindung.

Ein individuelles GPU-System passt, wenn Hochverfügbarkeit, Rackmount, dedizierte GPUs, hoher paralleler Durchsatz oder deutlich größere Speicherkonfigurationen erforderlich sind.

Hardware und Lieferumfang im Vergleich

Der WZ-IT AI Cube ist damit kein Gegenentwurf zur GB10-Hardware. Er ist ein definierter Liefer- und Einrichtungsumfang auf dieser Hardwareklasse.

Was 128 GB Unified Memory praktisch bedeuten

Unified Memory steht CPU und GPU gemeinsam zur Verfügung. Dadurch können quantisierte Modelle geladen werden, die nicht in typische 24- oder 48-GB-Grafikkarten passen. NVIDIA positioniert ein einzelnes System dieser Klasse für Modelle bis etwa 200 Milliarden Parameter und zwei gekoppelte Systeme für größere Modelle.

Diese Angabe beantwortet aber nur die Speicherfrage. Für den produktiven Einsatz sind weitere Werte entscheidend:

• Wie viele Tokens pro Sekunde liefert das konkrete Modell?
• Wie verändert sich der Durchsatz bei mehreren gleichzeitigen Anfragen?
• Wie lang sind Systemprompt, Dokumentkontext und Antwort?
• Welche Quantisierung wird verwendet?
• Läuft das Modell mit der gewählten Runtime stabil auf Arm und GB10?

Ein Modell kann in den Speicher passen und trotzdem für zehn parallele Nutzer zu langsam sein. Deshalb legen wir die Konfiguration anhand des tatsächlichen Anwendungsfalls fest.

Wann DGX Spark passt

DGX Spark ist sinnvoll, wenn:

• bereits Erfahrung mit Linux, Containern und lokalen Modell-Runtimes vorhanden ist,
• die NVIDIA-Softwareumgebung für Entwicklung oder Modelltests genutzt werden soll,
• Arbeitsoberfläche, Identität, RAG und Betrieb bewusst intern aufgebaut werden,
• kein definierter Einrichtungsumfang eines Dienstleisters benötigt wird.

Für ein Plattform- oder Entwicklungsteam kann genau diese Eigenverantwortung gewünscht sein.

Wann der WZ-IT AI Cube passt

Der AI Cube richtet sich an Unternehmen, die nicht mit einer leeren Hardwareplattform beginnen möchten. Die Standardkonfiguration umfasst:

• die kompakte GB10-Appliance mit 128 GB Unified Memory,
• vollständig eingerichtetes und gehärtetes Linux mit GPU-Treibern und Container-Runtime,
• Open WebUI als Oberfläche für Chat, Modelle und Wissenssammlungen,
• Ollama und/oder vLLM für lokale Modellbereitstellung,
• ein vorab abgestimmtes lokales Modell, installiert und technisch geprüft,
• Ersteinrichtung, Einweisung und Support,
• technische Dokumentation und Root-Zugriff.

Wissensquellen, SSO, individuelle RAG-Pipelines, MCP-Server, Middleware oder ein laufender Managed Service können darauf aufbauen. Sie gehören nicht pauschal in denselben Festpreis, weil Umfang und Datenquellen je Unternehmen unterschiedlich sind.

Wann beide Systeme zu klein sind

Eine einzelne GB10-Appliance ist kein Ersatz für jede GPU-Infrastruktur. Eine individuelle Architektur ist sinnvoll, wenn eines der folgenden Kriterien gilt:

• viele gleichzeitige Nutzer mit kurzen garantierten Antwortzeiten,
• Hochverfügbarkeit oder definierte Wiederanlaufziele,
• Rackmount, redundante Netzteile oder Datacenter-Vorgaben,
• Modelle oder Kontexte, die mehr Speicher oder Durchsatz erfordern,
• Training oder umfangreiches Fine-Tuning statt überwiegender Inferenz,
• vorhandene Kubernetes-, Proxmox- oder GPU-Cluster, die integriert werden sollen.

In diesen Fällen planen wir dedizierte GPUs, Multi-GPU-Systeme oder verteilte Inferenz. Der AI Cube kann trotzdem als Test-, Entwicklungs- oder Ausweichsystem erhalten bleiben.

Kosten richtig vergleichen

Der Marktpreis einer DGX-Spark- oder GX10-Appliance hängt von Anbieter, SSD-Konfiguration und Verfügbarkeit ab. Ein sinnvoller Vergleich trennt deshalb drei Kostenblöcke:

1. Hardware - Appliance, SSD und gegebenenfalls Zubehör.
2. Einrichtung - Betriebssystem, Runtime, Oberfläche, Modell, Netzwerk und Identität.
3. Betrieb - Updates, Monitoring, Backup, Modellaustausch und Support.

Der WZ-IT AI Cube Pro Managed kostet ab 899 Euro netto im Monat, zzgl. einmalig Bereitstellung und Ersteinrichtung. Die Mindestlaufzeit beträgt sechs Monate. Darin sind Hardware, Härtung, vorkonfigurierter Stack, ein vorab abgestimmtes lokales Modell, Dokumentation und Support sowie Monitoring, Updates und laufender technischer Betrieb enthalten. Individuelle Integrationen werden separat geplant.

Cloud-API-Kosten lassen sich erst mit einem realen Lastprofil gegenüberstellen. Reine Token-Hochrechnungen ohne Eingabe-/Ausgabeverhältnis, Kontextlänge, Cache-Nutzung und Auslastung erzeugen eine Scheingenauigkeit.

Entscheidungsmatrix

Die Hardwareklasse ist nur der Ausgangspunkt. Entscheidend ist, welche Software bereits eingerichtet sein soll, wer die Integration übernimmt und wer das System nach der Übergabe betreibt.

Sie möchten die Optionen anhand Ihres Einsatzes einordnen? AI Cube und Lieferumfang ansehen oder Erstgespräch vereinbaren.

Weiterführende Guides

• Lokale KI-Inferenz mit dem AI Cube
• Ollama vs. vLLM
• GPU-Server für lokale KI
• Open WebUI als selbst gehostete KI-Arbeitsoberfläche

Quellen

• NVIDIA DGX Spark - Produktübersicht
• NVIDIA DGX Spark - Hardware-Dokumentation
• ASUS Ascent GX10 - Produktübersicht
• Open WebUI - Dokumentation