[email protected]

DeepSeek Hosting in Deutschland: DeepSeek-V4-Flash auf dedizierten GPUs

Sie möchten DeepSeek nutzen, aber keine Daten an die DeepSeek-API in China senden. Wir betreiben die offenen Gewichte auf einem dedizierten Mehr-GPU-Server in einem deutschen Rechenzentrum.

  • Betrieb in deutschem Rechenzentrum
  • Betrieb mit AVV
  • vLLM und OpenAI-kompatible API
Bewertungen
Cloud Wolke HerausforderungServer NachhaltigkeitIT Beratung Service Consulting SoforthilfeTimo Wevelsiep Robin ZinsExperten für Innovation Migration AWSHetzner Hosting zuverlässig

Kunden aus Mittelstand, Industrie und öffentlicher Hand, in Deutschland und international

  • Stadtwerke Brühl
  • DGHO e.V.
  • solarwerkstatt berlin
  • Krüger Dirndl
  • ABCO Water Systems
  • Golem.de
  • EVADXB
  • nextGYM
  • AInergy
  • ml&s
  • Odiseo Solutions
  • Annota
  • ARGE
  • SweetConnect GmbH
  • Aphy AG
  • CORGOS
  • Rekorder
  • SolidProof
  • Yonju
  • Keymate
  • Paritel
  • Mr. Clipart
  • Millenium
  • Negosh
  • Führerscheinmacher
  • BTI
  • Deutsche Gesellschaft für Datenschutz
Kundenstimmen ansehen

Ausgangslage

Warum DeepSeek selbst betreiben

DeepSeek veröffentlicht seine Modelle als offene Gewichte unter der MIT-Lizenz. Die aktuelle Generation V4 ist auf lange Kontexte bis 1 Mio. Tokens und agentische Aufgaben ausgelegt. Die Modelle sind groß: Schon DeepSeek-V4-Flash umfasst 284 Mrd. Parameter. Wichtig ist die Unterscheidung zwischen Gewichten und Hersteller-API. Wer die DeepSeek-App oder die DeepSeek-API nutzt, sendet Daten an Server des Herstellers. Beim Hosting laufen die heruntergeladenen Gewichte dagegen auf Ihrem Server in Deutschland, ohne Verbindung zu DeepSeek.

  • Daten bleiben in Deutschland

    Das Modell läuft auf einem dedizierten Server in einem deutschen Rechenzentrum. Mit Auftragsverarbeitungsvertrag, ohne Datenweg zu einer Modell-API.

  • Planbare Kosten

    Fester Monatspreis je Serverstufe statt Abrechnung nach verbrauchten Tokens. Mehr Anfragen erhöhen die Rechnung nicht.

  • Modellversion unter Kontrolle

    Checkpoint und Quantisierung bleiben, bis Sie einem Wechsel zustimmen. Kein stilles Modell-Update durch einen Anbieter.

Modellfakten

DeepSeek-Checkpoints im Überblick

Herstellerangaben und Größe der Gewichtsdateien je Format, mit Quelle.

CheckpointVeröffentlichtParameterKontext laut HerstellerGewichte je Format
deepseek-ai/DeepSeek-V4-Flash-073107/2026284 Mrd. gesamt / 13 Mrd. aktiv (MoE)1 Mio. TokensFP4/FP8 gemischt: 166,9 GB
deepseek-ai/DeepSeek-V4.1-Flash09/2026552 Mrd. Backbone / 8 bzw. 16 Mrd. aktiv1 Mio. TokensFP4/FP8 gemischt: 510,3 GB
NVFP4: 527,3 GB
  • GB = 10⁹ Bytes, Summe der Gewichtsdateien im genannten Hugging-Face-Repository. Zusätzlich braucht der Betrieb Speicher für KV-Cache, Runtime und gegebenenfalls Bildverarbeitung. Stand Oktober 2026.

Lizenz

DeepSeek: Lizenz und kommerzielle Nutzung

Lizenz

MIT License (Lizenztext)

  • Kommerzielle Nutzung: Ja, ohne Umsatz- oder Nutzerschwelle. Die MIT-Lizenz gilt für Repository und Modellgewichte.
  • Pflichten und Schwellen: Copyright- und Lizenzhinweis bei Weitergabe beilegen. Keine weiteren Nutzungsbedingungen im Repository.
  • Prüfstand: Stand Oktober 2026

Technische Einordnung, keine Rechtsberatung. Maßgeblich ist der Lizenztext der eingesetzten Modellversion. Open-Source-LLM-Lizenzen im Vergleich

Serverstufe

Mindestens empfohlene Serverstufe für DeepSeek

Die Empfehlung folgt aus der Größe der Gewichte plus Reserve für Kontext und Runtime.

ModellFormatGewichteMindestens empfohlenHinweis
DeepSeek-V4-Flash-0731FP4/FP8166,9 GBManaged GPU Server 384Auf 192 GB blieben nach den Gewichten nur rund 25 GB für Kontext und Runtime.
DeepSeek-V4.1-FlashFP4/FP8510,3 GBKeine unserer StufenDie Gewichte sind größer als unsere größte Stufe mit 384 GB. Dieses Modell bieten wir nicht an.
  • Welche Stufe für Ihren Einsatz passt, hängt von Kontextlänge und gleichzeitigen Anfragen ab. Wir prüfen das vor dem Angebot.

Preis

Die Stufen des Managed GPU Servers

Managed GPU Server 24

1 × RTX PRO 4000 Blackwell, 24 GB GPU-Speicher

699 € netto / Monatmonatlich kündbar499 € netto Einrichtung einmalig

Managed GPU Server 96

1 × RTX PRO 6000 Blackwell Max-Q, 96 GB GPU-Speicher

2.199 € netto / Monatmonatlich kündbar1.999 € netto Einrichtung einmalig

Managed GPU Server 192

2 × RTX PRO 6000 Blackwell Max-Q, 192 GB GPU-Speicher

Preis und Laufzeit auf Anfrage

Für diese Familie relevant

Managed GPU Server 384

4 × RTX PRO 6000 Blackwell Max-Q, 384 GB GPU-Speicher

Preis und Laufzeit auf Anfrage

Der Managed GPU Server 288 mit drei GPUs ist für mehrere Modelle nebeneinander gedacht, weil vLLM ein Modell nur bei durch die GPU-Zahl teilbaren Attention-Heads verteilt.

Alle Preise verstehen sich netto zuzüglich gesetzlicher Umsatzsteuer. Die Angebote richten sich an Unternehmen.

Zahlung
  • SEPA-Lastschrift
  • Visa
  • Mastercard
  • American Express
  • Apple Pay
  • Google Pay
  • PayPal
  • Überweisung

vLLM

DeepSeek mit vLLM betreiben

Architektur, Quantisierung und Verteilung auf mehrere GPUs.

Architektur

DeepSeek-V4-Flash nutzt DeepseekV4ForCausalLM, eine von vLLM unterstützte Architektur. DeepSeek-V4.1-Flash nutzt eine neue Encoder-Decoder-Architektur, die zum Prüfzeitpunkt nicht in der Liste der von vLLM unterstützten Modelle steht.

Gewichtsformat

Die Expertengewichte liegen in 4 Bit vor, weitere Teile in FP8. Die Herstellerbeispiele beziehen sich auf GB300-Systeme. Welche Kernel auf der RTX PRO 6000 Blackwell laufen, prüfen wir mit der eingesetzten vLLM-Version vor dem Angebot.

Verteilung

Mit 64 Attention-Heads lässt sich V4-Flash per Tensor-Parallelität auf zwei oder vier GPUs verteilen, alternativ per Expert-Parallelität. Für V4-Flash empfehlen wir mindestens vier GPUs.

Kontext

DeepSeek gibt 1 Mio. Tokens Kontext an. Jede lange Anfrage belegt Speicher für den KV-Cache. Welche Kontextlänge auf dem Server sinnvoll ist, legen wir nach Ihren Anfragen fest. 1 Mio. Tokens sind nicht automatisch Teil der Konfiguration.

Betrieb durch WZ-IT

Was im Betrieb enthalten ist

Der Managed GPU Server ist eine betriebene Modellumgebung, kein leerer Server.

Managed GPU Server ansehen
Modell und API
  • Modell und vLLM

    Ein abgestimmtes Modell in der vereinbarten Quantisierung, bereitgestellt über eine gemanagte vLLM-Inferenzschicht.

  • OpenAI-kompatible API

    Anwendungen und Coding-Clients binden den Server über Basis-URL und API-Schlüssel an.

Oberfläche und Überwachung
  • Open WebUI

    Gemanagte Chat-Oberfläche für Teams, die das Modell ohne eigene Anwendung nutzen.

  • 24/7 Monitoring

    Host, GPU, vLLM und Open WebUI werden proaktiv überwacht, Störungen nach Service Level bearbeitet.

Pflege und Vertrag
  • Updates mit CVE-Einordnung

    Betriebssystem, Treiber, vLLM und Open WebUI werden geprüft und kontrolliert aktualisiert. Modellwechsel nur nach Absprache.

  • AVV und Dokumentation

    Auftragsverarbeitungsvertrag, dokumentierte Konfiguration und ein persönlicher Ansprechpartner.

Leistungsumfang, Preise und Mehr-GPU-Server stehen auf der Produktseite.

Häufige Fragen zu DeepSeek Hosting

Lizenz, Serverstufe, Datenweg und Betrieb

Bewertungen & Projekte

Was Kunden über die Zusammenarbeit sagen

Von der Wissensdatenbank mit KI-Assistent über die lokale KI-Integration bis zu Datenhoheit und laufendem Betrieb.

KI-Plattform

Wir waren auf der Suche nach einer sicheren, aber trotzdem einfach nutzbaren Alternative zu den großen amerikanischen Anbietern und sind auf WZ-IT gestoßen. WZ-IT hat uns bei der Auswahl der passenden Modelle beraten und die Anbindung für uns umgesetzt. Vorab konnten wir alles in Ruhe auf einer Testinstanz ausprobieren. Heute betreibt WZ-IT Open WebUI für uns auf unserer eigenen Domain, mit komfortablem Microsoft-Login und Open-Source-Modellen, die bei einem deutschen Anbieter gehostet sind. Unser Team kann damit produktiv mit KI arbeiten, ohne auf externe Tools oder Schatten-KI auszuweichen. Die Zusammenarbeit ist unkompliziert, Rückfragen werden schnell und verständlich beantwortet. Mit WZ-IT haben wir außerdem einen Partner an der Seite, mit dem wir weitere KI-Projekte angehen können.
Carl-Frederic KornHead of E-Commerce & Online Marketing, Krüger Dirndl GmbH
KI-Plattform ansehen

Wissensmanagement & KI

Das Wissen aus vielen Jahren Solarbranche steckte im Kopf unseres früheren Geschäftsführers und steckt bis heute in den Köpfen unserer Mitarbeitenden. Wir wollten es sichern, nicht als Ordner voller Notizen, sondern so, dass wir im Alltag Fragen stellen und belastbare Antworten bekommen. WZ-IT hat uns dabei von Anfang an beraten und verschiedene Ansätze und Wissensmanagementsysteme mit uns gegeneinander abgewogen, bevor wir uns entschieden haben. Umgesetzt wurde eine individuelle Wissensdatenbank mit KI-Assistent, die Gespräche, Notizen, Dokumentationen und Handbücher zusammenführt: von der Plattform über das Onboarding unseres Teams bis zur Begleitung im Betrieb. Gespräche werden transkribiert und Fakten extrahiert, wir prüfen und korrigieren alles selbst, bevor es gespeichert wird, denn wir wollen einer KI nicht blind vertrauen. Das System läuft in unserer eigenen Umgebung, die Daten bleiben bei uns. Überrascht hat uns, wie effizient das ging: WZ-IT hat bestehende Open-Source-Software genutzt und gezielt auf unsere Anforderungen erweitert, statt eine teure Eigenentwicklung von Grund auf zu verkaufen, wie es bei IT-Dienstleistern sonst oft üblich ist. Timo und Robin haben unser eigentliches Problem verstanden, die Wissenssicherung beim Generationswechsel, und es Schritt für Schritt umgesetzt: vom Proof of Concept über Aufbau und Validierung mit unseren eigenen Daten bis in den produktiven Betrieb, und dabei alles verständlich erklärt. Als Nächstes wollen wir das auf das Wissen unserer Mitarbeitenden ausweiten, damit auch das nicht an einzelnen Personen hängt.
Joshua von AmelnGeschäftsführer, solarwerkstatt berlin GmbH
Wissenstransfer ansehen

Kundenstimmen ansehen

International

Ausgewählte Projekte

WZ-IT plant, entwickelt und betreibt Infrastruktur und Software für Kunden in Deutschland und international. Projekte setzen wir remote um und begleiten sie auch nach dem Go-live im laufenden Betrieb.

Modell prüfen lassen

Modell und Serverstufe prüfen lassen

Nennen Sie Modell, Kontextlänge und gleichzeitige Anfragen. Wir prüfen Checkpoint, Lizenz und Serverstufe vor dem Angebot.

  • Sie sprechen direkt mit Timo und Robin, den technisch Verantwortlichen
  • Fachliche Einschätzung Ihrer Situation
  • Konkrete nächste Schritte für Infrastruktur, Software oder KI

Das Gespräch ist kostenfrei und unverbindlich.

Die Beratung von WZ-IT zu unserer Azure-Migration war schon im Erstgespräch fachlich sehr fundiert und völlig unverbindlich - wir haben eine Menge mitgenommen.
Jakob ÖschlbergerInno7 GmbH
Timo und Robin, Gründer von WZ-IT

Welche Serverstufe soll geprüft werden?

Die Auswahl ist unverbindlich. Wir bestätigen Modell-Fit, Lizenz und Laufzeit vor einem Angebot.

Antwort in der Regel innerhalb eines Werktags. Bitte senden Sie noch keine Zugangsdaten.

Die Beratung von WZ-IT zu unserer Azure-Migration war schon im Erstgespräch fachlich sehr fundiert und völlig unverbindlich - wir haben eine Menge mitgenommen.
Jakob ÖschlbergerInno7 GmbH