[email protected]

Qwen Hosting in Deutschland: Qwen-Modelle auf dedizierter GPU betreiben

Sie möchten Qwen für Chat, Coding oder Dokumente nutzen, ohne Eingaben an eine fremde API zu senden. Wir betreiben den passenden Qwen-Checkpoint auf einem dedizierten GPU-Server in einem deutschen Rechenzentrum.

  • Betrieb in deutschem Rechenzentrum
  • Betrieb mit AVV
  • vLLM und OpenAI-kompatible API
Bewertungen
Cloud Wolke HerausforderungServer NachhaltigkeitIT Beratung Service Consulting SoforthilfeTimo Wevelsiep Robin ZinsExperten für Innovation Migration AWSHetzner Hosting zuverlässig

Kunden aus Mittelstand, Industrie und öffentlicher Hand, in Deutschland und international

  • Stadtwerke Brühl
  • DGHO e.V.
  • solarwerkstatt berlin
  • Krüger Dirndl
  • ABCO Water Systems
  • Golem.de
  • EVADXB
  • nextGYM
  • AInergy
  • ml&s
  • Odiseo Solutions
  • Annota
  • ARGE
  • SweetConnect GmbH
  • Aphy AG
  • CORGOS
  • Rekorder
  • SolidProof
  • Yonju
  • Keymate
  • Paritel
  • Mr. Clipart
  • Millenium
  • Negosh
  • Führerscheinmacher
  • BTI
  • Deutsche Gesellschaft für Datenschutz
Kundenstimmen ansehen

Ausgangslage

Warum Qwen selbst betreiben

Qwen ist die Open-Weight-Modellfamilie von Alibaba. Die aktuellen Modelle decken allgemeinen Chat mit Bildeingabe (Qwen3.8-27B), große Mixture-of-Experts-Modelle (Qwen3.5-122B-A10B) und spezialisierte Coding-Modelle (Qwen3-Coder-Next) ab. Die hier behandelten Checkpoints stehen unter Apache 2.0. Auf einem eigenen Server laufen die Gewichte lokal. Eingaben, Dokumente und Quellcode gehen nicht an Alibaba oder eine andere Modell-API, und die Kosten hängen nicht von der Zahl der Tokens ab.

  • Daten bleiben in Deutschland

    Das Modell läuft auf einem dedizierten Server in einem deutschen Rechenzentrum. Mit Auftragsverarbeitungsvertrag, ohne Datenweg zu einer Modell-API.

  • Planbare Kosten

    Fester Monatspreis je Serverstufe statt Abrechnung nach verbrauchten Tokens. Mehr Anfragen erhöhen die Rechnung nicht.

  • Modellversion unter Kontrolle

    Checkpoint und Quantisierung bleiben, bis Sie einem Wechsel zustimmen. Kein stilles Modell-Update durch einen Anbieter.

Modellfakten

Qwen-Checkpoints im Überblick

Herstellerangaben und Größe der Gewichtsdateien je Format, mit Quelle.

CheckpointVeröffentlichtParameterKontext laut HerstellerGewichte je Format
Qwen/Qwen3.8-27B08/202627,8 Mrd. (dense, mit Vision)262.144 Tokens nativBF16: 55,6 GB
FP8: 30,9 GB
NVFP4: 21,9 GB
Qwen/Qwen3.5-122B-A10B02/2026122 Mrd. gesamt / 10 Mrd. aktiv (MoE)262.144 Tokens nativBF16: 250,2 GB
FP8: 127,2 GB
Qwen/Qwen3-Coder-Next02/202680 Mrd. gesamt / 3 Mrd. aktiv (MoE)262.144 Tokens nativBF16: 159,4 GB
FP8: 80,4 GB
  • GB = 10⁹ Bytes, Summe der Gewichtsdateien im genannten Hugging-Face-Repository. Zusätzlich braucht der Betrieb Speicher für KV-Cache, Runtime und gegebenenfalls Bildverarbeitung. Stand Oktober 2026.

Lizenz

Qwen: Lizenz und kommerzielle Nutzung

Lizenz

Apache License 2.0 (Lizenztext)

  • Kommerzielle Nutzung: Ja, auch für Produkte und Dienste von Unternehmen jeder Größe.
  • Pflichten und Schwellen: Lizenztext und Copyright-Hinweise bei Weitergabe beilegen, Änderungen kennzeichnen. Keine Umsatz- oder Nutzerschwelle.
  • Prüfstand: Stand Oktober 2026

Nicht im Angebot

  • Qwen3.8-Flash-Next steht unter der Qwen Community License 1.0. Sie verlangt für Unternehmen mit Model-as-a-Service- oder AI-Work-Assistant-Geschäft eine separate Lizenz von Qwen vor jeder kommerziellen Nutzung. Dieses Modell bieten wir deshalb nicht im gehosteten Betrieb an.

Technische Einordnung, keine Rechtsberatung. Maßgeblich ist der Lizenztext der eingesetzten Modellversion. Open-Source-LLM-Lizenzen im Vergleich

Serverstufe

Mindestens empfohlene Serverstufe für Qwen

Die Empfehlung folgt aus der Größe der Gewichte plus Reserve für Kontext und Runtime.

ModellFormatGewichteMindestens empfohlenHinweis
Qwen3.8-27BBF1655,6 GBManaged GPU Server 96–
Qwen3.8-27BFP830,9 GBManaged GPU Server 96–
Qwen3.8-27BNVFP421,9 GBManaged GPU Server 96Die Gewichte allein belegen fast die gesamten 24 GB. Für Kontext und Runtime bleibt dort kein Raum.
Qwen3.5-122B-A10BFP8127,2 GBManaged GPU Server 192–
Qwen3.5-122B-A10BBF16250,2 GBManaged GPU Server 384–
Qwen3-Coder-NextFP880,4 GBManaged GPU Server 192Auf 96 GB bleiben nach den Gewichten rund 15 GB für Kontext und Runtime. Das reicht nur für kurze Kontexte und wenige parallele Anfragen.
Qwen3-Coder-NextBF16159,4 GBManaged GPU Server 384–
  • Welche Stufe für Ihren Einsatz passt, hängt von Kontextlänge und gleichzeitigen Anfragen ab. Wir prüfen das vor dem Angebot.

Preis

Die Stufen des Managed GPU Servers

Managed GPU Server 24

1 × RTX PRO 4000 Blackwell, 24 GB GPU-Speicher

699 € netto / Monatmonatlich kündbar499 € netto Einrichtung einmalig

Für diese Familie relevant

Managed GPU Server 96

1 × RTX PRO 6000 Blackwell Max-Q, 96 GB GPU-Speicher

2.199 € netto / Monatmonatlich kündbar1.999 € netto Einrichtung einmalig

Für diese Familie relevant

Managed GPU Server 192

2 × RTX PRO 6000 Blackwell Max-Q, 192 GB GPU-Speicher

Preis und Laufzeit auf Anfrage

Für diese Familie relevant

Managed GPU Server 384

4 × RTX PRO 6000 Blackwell Max-Q, 384 GB GPU-Speicher

Preis und Laufzeit auf Anfrage

Der Managed GPU Server 288 mit drei GPUs ist für mehrere Modelle nebeneinander gedacht, weil vLLM ein Modell nur bei durch die GPU-Zahl teilbaren Attention-Heads verteilt.

Alle Preise verstehen sich netto zuzüglich gesetzlicher Umsatzsteuer. Die Angebote richten sich an Unternehmen.

Zahlung
  • SEPA-Lastschrift
  • Visa
  • Mastercard
  • American Express
  • Apple Pay
  • Google Pay
  • PayPal
  • Überweisung

vLLM

Qwen mit vLLM betreiben

Architektur, Quantisierung und Verteilung auf mehrere GPUs.

Architekturen

Qwen3.8-27B nutzt die Architektur Qwen3_5ForConditionalGeneration, Qwen3.5-122B-A10B die MoE-Variante davon und Qwen3-Coder-Next Qwen3NextForCausalLM. Alle drei stehen in der Liste der von vLLM unterstützten Modelle.

Quantisierung

Qwen veröffentlicht offizielle FP8-Checkpoints. Die NVFP4-Fassung von Qwen3.8-27B stammt von NVIDIA und ist Mixed Precision: MLP-Schichten in NVFP4, Attention in FP8. Qualität und Speicherbedarf vergleichen wir je Format auf der Zielhardware.

Tensor-Parallelität

Qwen3.5-122B-A10B hat 32 Attention-Heads, Qwen3-Coder-Next 16. Beide lassen sich in vLLM auf zwei oder vier GPUs verteilen. Drei GPUs teilen die Heads nicht ohne Rest, deshalb ist der Server mit drei GPUs für mehrere Modelle nebeneinander gedacht.

Kontext

Die Modelle unterstützen nativ 262.144 Tokens. Die eingestellte Kontextlänge legen wir nach verfügbarem GPU-Speicher und Parallelität fest. Der volle Herstellerkontext ist nicht automatisch Teil jeder Stufe.

Betrieb durch WZ-IT

Was im Betrieb enthalten ist

Der Managed GPU Server ist eine betriebene Modellumgebung, kein leerer Server.

Managed GPU Server ansehen
Modell und API
  • Modell und vLLM

    Ein abgestimmtes Modell in der vereinbarten Quantisierung, bereitgestellt über eine gemanagte vLLM-Inferenzschicht.

  • OpenAI-kompatible API

    Anwendungen und Coding-Clients binden den Server über Basis-URL und API-Schlüssel an.

Oberfläche und Überwachung
  • Open WebUI

    Gemanagte Chat-Oberfläche für Teams, die das Modell ohne eigene Anwendung nutzen.

  • 24/7 Monitoring

    Host, GPU, vLLM und Open WebUI werden proaktiv überwacht, Störungen nach Service Level bearbeitet.

Pflege und Vertrag
  • Updates mit CVE-Einordnung

    Betriebssystem, Treiber, vLLM und Open WebUI werden geprüft und kontrolliert aktualisiert. Modellwechsel nur nach Absprache.

  • AVV und Dokumentation

    Auftragsverarbeitungsvertrag, dokumentierte Konfiguration und ein persönlicher Ansprechpartner.

Leistungsumfang, Preise und Mehr-GPU-Server stehen auf der Produktseite.

Häufige Fragen zu Qwen Hosting

Lizenz, Serverstufe, Datenweg und Betrieb

Bewertungen & Projekte

Was Kunden über die Zusammenarbeit sagen

Von der Wissensdatenbank mit KI-Assistent über die lokale KI-Integration bis zu Datenhoheit und laufendem Betrieb.

KI-Plattform

Wir waren auf der Suche nach einer sicheren, aber trotzdem einfach nutzbaren Alternative zu den großen amerikanischen Anbietern und sind auf WZ-IT gestoßen. WZ-IT hat uns bei der Auswahl der passenden Modelle beraten und die Anbindung für uns umgesetzt. Vorab konnten wir alles in Ruhe auf einer Testinstanz ausprobieren. Heute betreibt WZ-IT Open WebUI für uns auf unserer eigenen Domain, mit komfortablem Microsoft-Login und Open-Source-Modellen, die bei einem deutschen Anbieter gehostet sind. Unser Team kann damit produktiv mit KI arbeiten, ohne auf externe Tools oder Schatten-KI auszuweichen. Die Zusammenarbeit ist unkompliziert, Rückfragen werden schnell und verständlich beantwortet. Mit WZ-IT haben wir außerdem einen Partner an der Seite, mit dem wir weitere KI-Projekte angehen können.
Carl-Frederic KornHead of E-Commerce & Online Marketing, Krüger Dirndl GmbH
KI-Plattform ansehen

Wissensmanagement & KI

Das Wissen aus vielen Jahren Solarbranche steckte im Kopf unseres früheren Geschäftsführers und steckt bis heute in den Köpfen unserer Mitarbeitenden. Wir wollten es sichern, nicht als Ordner voller Notizen, sondern so, dass wir im Alltag Fragen stellen und belastbare Antworten bekommen. WZ-IT hat uns dabei von Anfang an beraten und verschiedene Ansätze und Wissensmanagementsysteme mit uns gegeneinander abgewogen, bevor wir uns entschieden haben. Umgesetzt wurde eine individuelle Wissensdatenbank mit KI-Assistent, die Gespräche, Notizen, Dokumentationen und Handbücher zusammenführt: von der Plattform über das Onboarding unseres Teams bis zur Begleitung im Betrieb. Gespräche werden transkribiert und Fakten extrahiert, wir prüfen und korrigieren alles selbst, bevor es gespeichert wird, denn wir wollen einer KI nicht blind vertrauen. Das System läuft in unserer eigenen Umgebung, die Daten bleiben bei uns. Überrascht hat uns, wie effizient das ging: WZ-IT hat bestehende Open-Source-Software genutzt und gezielt auf unsere Anforderungen erweitert, statt eine teure Eigenentwicklung von Grund auf zu verkaufen, wie es bei IT-Dienstleistern sonst oft üblich ist. Timo und Robin haben unser eigentliches Problem verstanden, die Wissenssicherung beim Generationswechsel, und es Schritt für Schritt umgesetzt: vom Proof of Concept über Aufbau und Validierung mit unseren eigenen Daten bis in den produktiven Betrieb, und dabei alles verständlich erklärt. Als Nächstes wollen wir das auf das Wissen unserer Mitarbeitenden ausweiten, damit auch das nicht an einzelnen Personen hängt.
Joshua von AmelnGeschäftsführer, solarwerkstatt berlin GmbH
Wissenstransfer ansehen

Kundenstimmen ansehen

International

Ausgewählte Projekte

WZ-IT plant, entwickelt und betreibt Infrastruktur und Software für Kunden in Deutschland und international. Projekte setzen wir remote um und begleiten sie auch nach dem Go-live im laufenden Betrieb.

Modell prüfen lassen

Modell und Serverstufe prüfen lassen

Nennen Sie Modell, Kontextlänge und gleichzeitige Anfragen. Wir prüfen Checkpoint, Lizenz und Serverstufe vor dem Angebot.

  • Sie sprechen direkt mit Timo und Robin, den technisch Verantwortlichen
  • Fachliche Einschätzung Ihrer Situation
  • Konkrete nächste Schritte für Infrastruktur, Software oder KI

Das Gespräch ist kostenfrei und unverbindlich.

Die Beratung von WZ-IT zu unserer Azure-Migration war schon im Erstgespräch fachlich sehr fundiert und völlig unverbindlich - wir haben eine Menge mitgenommen.
Jakob ÖschlbergerInno7 GmbH
Timo und Robin, Gründer von WZ-IT

Welche Serverstufe soll geprüft werden?

Die Auswahl ist unverbindlich. Wir bestätigen Modell-Fit, Lizenz und Laufzeit vor einem Angebot.

Antwort in der Regel innerhalb eines Werktags. Bitte senden Sie noch keine Zugangsdaten.

Die Beratung von WZ-IT zu unserer Azure-Migration war schon im Erstgespräch fachlich sehr fundiert und völlig unverbindlich - wir haben eine Menge mitgenommen.
Jakob ÖschlbergerInno7 GmbH