Sie möchten DeepSeek nutzen, aber keine Daten an die DeepSeek-API in China senden. Wir betreiben die offenen Gewichte auf einem dedizierten Mehr-GPU-Server in einem deutschen Rechenzentrum.
Unternehmen weltweit vertrauen WZ-IT
DeepSeek veröffentlicht seine Modelle als offene Gewichte unter der MIT-Lizenz. Die aktuelle Generation V4 ist auf lange Kontexte bis 1 Mio. Tokens und agentische Aufgaben ausgelegt. Die Modelle sind groß: Schon DeepSeek-V4-Flash umfasst 284 Mrd. Parameter.
Wichtig ist die Unterscheidung zwischen Gewichten und Hersteller-API. Wer die DeepSeek-App oder die DeepSeek-API nutzt, sendet Daten an Server des Herstellers. Beim Hosting laufen die heruntergeladenen Gewichte dagegen auf Ihrem Server in Deutschland, ohne Verbindung zu DeepSeek.
Das Modell läuft auf einem dedizierten Server in einem deutschen Rechenzentrum. Mit Auftragsverarbeitungsvertrag, ohne Datenweg zu einer Modell-API.
Fester Monatspreis je Serverstufe statt Abrechnung nach verbrauchten Tokens. Mehr Anfragen erhöhen die Rechnung nicht.
Checkpoint und Quantisierung bleiben, bis Sie einem Wechsel zustimmen. Kein stilles Modell-Update durch einen Anbieter.
Herstellerangaben und Größe der Gewichtsdateien je Format, mit Quelle.
| Checkpoint | Veröffentlicht | Parameter | Kontext laut Hersteller | Gewichte je Format |
|---|---|---|---|---|
| deepseek-ai/DeepSeek-V4-Flash-0731 | 07/2026 | 284 Mrd. gesamt / 13 Mrd. aktiv (MoE) | 1 Mio. Tokens |
|
| deepseek-ai/DeepSeek-V4.1-Flash | 09/2026 | 552 Mrd. Backbone / 8 bzw. 16 Mrd. aktiv | 1 Mio. Tokens |
GB = 10⁹ Bytes, Summe der Gewichtsdateien im genannten Hugging-Face-Repository. Zusätzlich braucht der Betrieb Speicher für KV-Cache, Runtime und gegebenenfalls Bildverarbeitung. Stand Oktober 2026.
Technische Einordnung, keine Rechtsberatung. Maßgeblich ist der Lizenztext der eingesetzten Modellversion.
Open-Source-LLM-Lizenzen im VergleichDie Empfehlung folgt aus der Größe der Gewichte plus Reserve für Kontext und Runtime.
| Modell | Format | Gewichte | Mindestens empfohlen | Hinweis |
|---|---|---|---|---|
| DeepSeek-V4-Flash-0731 | FP4/FP8 | 166,9 GB | Managed GPU Server 384 | Auf 192 GB blieben nach den Gewichten nur rund 25 GB für Kontext und Runtime. |
| DeepSeek-V4.1-Flash | FP4/FP8 | 510,3 GB | Keine unserer Stufen | Die Gewichte sind größer als unsere größte Stufe mit 384 GB. Dieses Modell bieten wir nicht an. |
Welche Stufe für Ihren Einsatz passt, hängt von Kontextlänge und gleichzeitigen Anfragen ab. Wir prüfen das vor dem Angebot.
1 × RTX PRO 4000 Blackwell, 24 GB GPU-Speicher
699 € netto / Monat, monatlich kündbar
499 € netto Einrichtung einmalig
Konfiguration ansehen1 × RTX PRO 6000 Blackwell Max-Q, 96 GB GPU-Speicher
1.799 € netto / Monat, monatlich kündbar
999 € netto Einrichtung einmalig
Konfiguration ansehen2 × RTX PRO 6000 Blackwell Max-Q, 192 GB GPU-Speicher
Preis und Laufzeit auf Anfrage
Konfiguration ansehenFür diese Familie relevant
4 × RTX PRO 6000 Blackwell Max-Q, 384 GB GPU-Speicher
Preis und Laufzeit auf Anfrage
Konfiguration ansehenDer Managed GPU Server 288 mit drei GPUs ist für mehrere Modelle nebeneinander gedacht, weil vLLM ein Modell nur bei durch die GPU-Zahl teilbaren Attention-Heads verteilt.
Architektur, Quantisierung und Verteilung auf mehrere GPUs.
DeepSeek-V4-Flash nutzt DeepseekV4ForCausalLM, eine von vLLM unterstützte Architektur. DeepSeek-V4.1-Flash nutzt eine neue Encoder-Decoder-Architektur, die zum Prüfzeitpunkt nicht in der Liste der von vLLM unterstützten Modelle steht.
Die Expertengewichte liegen in 4 Bit vor, weitere Teile in FP8. Die Herstellerbeispiele beziehen sich auf GB300-Systeme. Welche Kernel auf der RTX PRO 6000 Blackwell laufen, prüfen wir mit der eingesetzten vLLM-Version vor dem Angebot.
Mit 64 Attention-Heads lässt sich V4-Flash per Tensor-Parallelität auf zwei oder vier GPUs verteilen, alternativ per Expert-Parallelität. Für V4-Flash empfehlen wir mindestens vier GPUs.
DeepSeek gibt 1 Mio. Tokens Kontext an. Jede lange Anfrage belegt Speicher für den KV-Cache. Welche Kontextl änge auf dem Server sinnvoll ist, legen wir nach Ihren Anfragen fest. 1 Mio. Tokens sind nicht automatisch Teil der Konfiguration.
Der Managed GPU Server ist eine betriebene Modellumgebung, kein leerer Server.
Ein abgestimmtes Modell in der vereinbarten Quantisierung, bereitgestellt über eine gemanagte vLLM-Inferenzschicht.
Anwendungen und Coding-Clients binden den Server über Basis-URL und API-Schlüssel an.
Gemanagte Chat-Oberfläche für Teams, die das Modell ohne eigene Anwendung nutzen.
Host, GPU, vLLM und Open WebUI werden proaktiv überwacht, Störungen nach Service Level bearbeitet.
Betriebssystem, Treiber, vLLM und Open WebUI werden geprüft und kontrolliert aktualisiert. Modellwechsel nur nach Absprache.
Auftragsverarbeitungsvertrag, dokumentierte Konfiguration und ein persönlicher Ansprechpartner.
Leistungsumfang, Preise und Mehr-GPU-Server stehen auf der Produktseite.
Managed GPU Server ansehenQwen Hosting
Qwen Hosting in Deutschland: Qwen3.8-27B, Qwen3.5-122B und Qwen3-Coder-Next auf dedizierter GPU, mit vLLM, OpenAI-kompatibler API und Betrieb mit AVV.
Familie ansehengpt-oss Hosting
gpt-oss Hosting in Deutschland: gpt-oss-120b und gpt-oss-20b von OpenAI auf dedizierter GPU, mit vLLM, OpenAI-kompatibler API und Betrieb mit AVV.
Familie ansehenGemma Hosting
Gemma Hosting in Deutschland: Gemma 4 31B, 26B A4B und 12B von Google auf dedizierter GPU, mit vLLM, OpenAI-kompatibler API und Betrieb mit AVV.
Familie ansehenMistral Hosting
Mistral Hosting in Deutschland: Mistral Small 4, Devstral Small 2 und Mistral Medium 3.5 auf dedizierter GPU, mit vLLM, Lizenzprüfung und Betrieb mit AVV.
Familie ansehenDevstral Hosting
Devstral Hosting in Deutschland: Devstral Small 2 und Devstral 2 von Mistral AI für Coding-Agenten, mit vLLM, OpenAI-kompatibler API und Betrieb mit AVV.
Familie ansehenLlama Hosting
Llama Hosting in Deutschland: warum Llama 4 für EU-Unternehmen lizenzrechtlich ausscheidet, wie Llama 3.3 70B läuft und welche Alternativen es gibt.
Familie ansehenModell prüfen lassen
Nennen Sie Modell, Kontextlänge und gleichzeitige Anfragen. Wir prüfen Checkpoint, Lizenz und Serverstufe vor dem Angebot.
Lizenz, Serverstufe, Datenweg und Betrieb
Nicht beim Hosting. Daten gehen nur dann an DeepSeek, wenn Sie die DeepSeek-App oder die DeepSeek-API nutzen. Wir betreiben die heruntergeladenen Gewichte auf einem dedizierten Server in einem deutschen Rechenzentrum. Das Modell hat dort keine Verbindung zum Hersteller, Anfragen und Antworten bleiben auf dem Server.
Der Betrieb lässt sich datenschutzkonform gestalten: Die Gewichte laufen auf einem dedizierten Server in einem deutschen Rechenzentrum, WZ-IT schließt einen Auftragsverarbeitungsvertrag ab, und es gibt keine Übermittlung an DeepSeek oder in ein Drittland. Die DSGVO-Pflichten für Ihre eigene Verarbeitung, etwa Rechtsgrundlage und Verarbeitungsverzeichnis, bleiben bei Ihnen. Anders ist es bei der DeepSeek-App und der DeepSeek-API: Dort gehen die Daten an den Anbieter in China.
Mindestens empfohlen ist der Managed GPU Server 384 mit vier RTX PRO 6000 Blackwell Max-Q. Die Gewichte belegen rund 167 GB, mit zwei GPUs bliebe zu wenig Speicher für Kontext und gleichzeitige Anfragen.
Nein. Die Gewichte von V4.1-Flash belegen über 500 GB und sind damit größer als unsere größte Stufe. Außerdem steht die Architektur zum Prüfzeitpunkt nicht in der Liste der von vLLM unterstützten Modelle.
Ja. Repository und Modellgewichte stehen unter der MIT-Lizenz, ohne Umsatz- oder Nutzerschwelle. Bei Weitergabe ist der Lizenzhinweis beizulegen.
Die aktuelle V4-Generation hat kein Modell, das sich auf einer einzelnen GPU mit 96 GB betreiben lässt. Für eine GPU empfehlen wir Modelle wie Qwen3.8-27B oder gpt-oss-120b, die wir auf den jeweiligen Familienseiten einordnen.
Modellgewichte im Safetensors-Format enthalten nur Zahlen, keinen ausführbaren Code. Den Inferenzcode liefert vLLM. Zusätzliche Skripte aus dem Repository setzen wir nur nach Prüfung ein, ausgehende Verbindungen des Servers sind abgestimmt.
Mindestens empfohlen für DeepSeek-V4-Flash-0731 ist der Managed GPU Server 384. Den Preis für Mehr-GPU-Server nennen wir auf Anfrage, die Laufzeit steht im Angebot. Welche Stufe für Ihren Einsatz passt, hängt von Kontextlänge und gleichzeitigen Anfragen ab. Wir prüfen das vor dem Angebot.
Ob konkrete IT-Herausforderung oder einfach eine Idee - wir freuen uns auf den Austausch. In einem kurzen Gespräch prüfen wir gemeinsam, ob und wie Ihr Projekt zu WZ-IT passt.