NVIDIA DGX Spark für Unternehmen einrichten

DGX Spark als betriebsbereite KI-Plattform erhalten? WZ-IT richtet Hardware, Open WebUI, lokale Modell-Runtime und ein abgestimmtes Modell vollständig ein und übernimmt auf Wunsch den laufenden Betrieb. AI Cube Pro ansehen

NVIDIA DGX Spark ist das Referenzsystem der GB10-Plattform. Der kompakte Rechner verbindet einen 20-Kern-Arm-Prozessor, eine Blackwell-GPU und 128 GB kohärenten Unified Memory. Das schafft Platz für lokale Modelle, die auf gewöhnlichen Arbeitsplatz-GPUs nicht sinnvoll betrieben werden können. Ein produktiver KI-Dienst entsteht daraus aber erst durch die passende Software-, Sicherheits- und Betriebsarchitektur.

Hardware und Einsatzbereich

NVIDIA spezifiziert DGX Spark mit bis zu 1 PFLOP FP4, 4 TB selbstverschlüsselnder NVMe-SSD, 10-GbE und ConnectX-7. DGX OS und der NVIDIA-KI-Stack sind vorinstalliert. Die ARM64-Architektur muss bei Containern, Python-Abhängigkeiten und eigenen Erweiterungen berücksichtigt werden.

Die Angabe „bis 200 Milliarden Parameter“ beschreibt keine garantierte Geschwindigkeit. Ein Modell kann in den Speicher passen und trotzdem bei langen Kontexten oder mehreren parallelen Nutzern zu langsam sein. Eine belastbare Auswahl braucht deshalb Messungen mit realen Eingaben.

Vom Entwicklersystem zur Unternehmensplattform

Für den produktiven Einsatz richten wir folgende Schichten ein:

1. Betriebssystem, Firmware, Treiber und Container-Runtime auf einen dokumentierten Stand bringen;
2. persönliche Administrationskonten, SSH-Schlüssel und minimale Rechte konfigurieren;
3. Netzwerk, DNS, TLS, Firewall und getrennte Nutzer- sowie Administrationspfade festlegen;
4. Modell-Runtime und ein für Sprache, Qualität und Geschwindigkeit passendes Modell bereitstellen;
5. Open WebUI mit Benutzern, Gruppen, Modellrechten und persistentem Speicher einrichten;
6. Modelle, Chatdaten, Wissensbereiche und Konfiguration in das Backup aufnehmen;
7. System, Dienste, Datenträger und Modellendpunkt überwachen;
8. Updates, Restore und Supportzugriff dokumentieren.

Was Mitarbeitende anschließend nutzen

Die Nutzer arbeiten über eine vertraute Chat-Oberfläche. Abhängig von ihren Rechten können sie lokale Modelle auswählen, Dateien verwenden und persönliche oder gemeinsame Wissensbereiche pflegen. Cloud-Modelle lassen sich optional kontrolliert ergänzen, ohne die lokale Plattform zu ersetzen.

Automatisierte Anbindungen an Nextcloud, SharePoint, DMS oder Fachsoftware sind eigene Integrationsprojekte. Dasselbe gilt für individuelle RAG-Pipelines, APIs und MCP-Server.

Wann DGX Spark die passende Wahl ist

Das Referenzsystem ist sinnvoll, wenn ein Unternehmen gezielt die NVIDIA-DGX-Plattform beschaffen und einen klar dokumentierten Herstellerpfad nutzen möchte. Für einen einzelnen Arbeitsplatz ohne zentrale Benutzer oder Betriebsanforderungen kann die Ausstattung überdimensioniert sein. Für viele gleichzeitige Nutzer, redundanten Betrieb oder sehr große Modelle reicht ein einzelnes Gerät dagegen möglicherweise nicht aus.

Vor der Beschaffung sollten Anwendung, Datenmenge, erwartete Parallelität und Supportmodell feststehen. So lässt sich entscheiden, ob DGX Spark als einzelner AI Cube genügt, ein zweiter Knoten sinnvoll ist oder direkt eine größere GPU-Plattform benötigt wird.

AI Cube Pro auf DGX-Spark-Klasse

Der AI Cube Pro ist das vollständige WZ-IT-Starterpaket dieser Hardwareklasse. Es umfasst Hardware, vorkonfigurierte KI-Plattform, abgestimmtes lokales Modell, Härtung, Funktionstest, Ersteinrichtung und fünf Stunden Support. Nach Konfigurationsfreigabe ist das System in der Regel innerhalb von zwei Wochen einsatzbereit.

Für mehr Nutzer oder größere Modelle lassen sich weitere AI Cubes anbinden. Der Leitfaden AI Cubes mit ConnectX-7 verbinden erklärt die Unterschiede zwischen Load Balancing und verteilter Inferenz.

Quellen

• NVIDIA: DGX Spark Produktspezifikationen
• NVIDIA: DGX Spark User Guide
• NVIDIA: zwei DGX-Spark-Systeme verbinden