Reicht ein AI Cube für Ihr Team, und wie fühlt sich eine lokale KI im Alltag an? Erleben Sie die gemessene Ausgabegeschwindigkeit von nvidia/Qwen3.6-35B-A3B-NVFP4 im Einzelchat und unter paralleler Last auf einem AI Cube mit GB10.
Simulator
Regler für Geschwindigkeit und Antwortlänge einstellen, Simulation starten und mitlesen. Die Voreinstellungen entsprechen gemessenen Werten.
Qwen-Presets zeigen die gemessene Geschwindigkeit je Chat in einem öffentlichen GB10-Test vom 19.07.2026. Der Test verwendete 1.024 Eingabe- und 256 Ausgabe-Token. Für Ihren Einsatz prüfen wir Modell, Kontext und Parallelität separat.
Aktuelle Messwerte
Die sichtbare Rate je Chat sinkt unter paralleler Last, während der Gesamtdurchsatz des Systems steigt. Beides ist für die Dimensionierung relevant.
AI Cube · 1 × NVIDIA GB10 · 128 GB Unified Memory
| Parallele Chats | Je Chat | Gesamt | TTFT p50 |
|---|---|---|---|
| 1 | ≈ 108 tok/s | ≈ 100 tok/s | 178 ms |
| 2 | ≈ 85 tok/s | ≈ 158 tok/s | 209 ms |
| 4 | ≈ 50 tok/s | ≈ 189 tok/s | 245 ms |
| 8 | ≈ 43 tok/s | ≈ 320 tok/s | 282 ms |
| 16 | ≈ 29 tok/s | ≈ 432 tok/s | 447 ms |
Anwendungsfälle
Ab etwa 30 Token pro Sekunde je Chat lässt sich eine Antwort gut mitlesen. Wie lange sie insgesamt dauert, hängt von ihrer Länge ab.
Planungswert für einen AI Cube: bis zu zehn gleichzeitig erzeugte Antworten. Der Wert liegt zwischen den gemessenen Stufen 8 und 16; eine scheinpräzise 10er-Zahl leiten wir daraus nicht ab. Für Teams von fünf bis zwanzig Personen reicht ein Cube in aller Regel, für die Auslegung zählt der Test mit Zielmodell, Kontext und Wissensquellen.
Nächster Schritt
Der AI Cube bringt die gemessene Leistung in Ihr Netz, ohne Cloud-Abhängigkeit und ohne externe Token-Kosten. Einmal für Gerät und Einrichtung, monatlich für die Wartung.
Einmalig
Laufende Wartung
Mehr gleichzeitige Last, als ein Cube trägt, oder kein Platz im eigenen Haus: Managed GPU Server im deutschen Rechenzentrum, ab 699 € netto / Monat. Managed GPU Server ansehen
Alle Preise verstehen sich netto zuzüglich gesetzlicher Umsatzsteuer. Die Angebote richten sich an Unternehmen.
Token, Einflussfaktoren, Praxis und der AI Cube
Bewertungen & Projekte
Von der lokalen KI-Integration bis zu Architektur, Datenhoheit und laufendem Betrieb.
WZ-IT hat unsere Studio-Infrastruktur von dezentralen Einzelgeräten auf eine zentrale Plattform gehoben: Jeder Standort ist per VPN sicher angebunden, neue Geräte werden automatisiert onboardet und ein kompletter Standort wird per Vorlage provisioniert - ohne manuelle Schritte vor Ort. Was mich am meisten beeindruckt hat, ist die Breite und Tiefe des Wissens: Timo und Robin sind kein normaler IT-Dienstleister, der einen Server aufsetzt und wieder geht. Die beiden denken sich in hochkomplexe Infrastruktur- und Softwarethemen rein, arbeiten sich in jede Anforderung ein, die wir ihnen hinlegen, und bauen Vernetzung, Provisioning und Betrieb so auf, dass am Ende alles zusammenpasst. WZ-IT ist ein hervorragender Partner, wenn es um komplexe Software-, Netzwerk- und Architekturprojekte geht.
Steve KirchnerGeschäftsführer, nextGYM GmbH
International
WZ-IT plant, entwickelt und betreibt Infrastruktur und Software für Kunden in Deutschland und international. Projekte setzen wir remote um und begleiten sie auch nach dem Go-live im laufenden Betrieb.
Anfrage
Der Simulator zeigt Richtwerte aus Messungen. Für ein Angebot prüfen wir Modell, Quantisierung, Last und Integrationen gemeinsam.
Kein Risiko: Im schlechtesten Fall gehen Sie mit mehr Klarheit über Ihr Projekt heraus als vorher.
Die Beratung von WZ-IT zu unserer Azure-Migration war schon im Erstgespräch fachlich sehr fundiert und völlig unverbindlich - wir haben eine Menge mitgenommen.
