[email protected]

Devstral Hosting in Deutschland: Coding-Modelle von Mistral selbst betreiben

Sie möchten Coding-Agenten und IDE-Assistenten mit einem eigenen Modell betreiben, ohne Quellcode an eine fremde API zu senden. Wir betreiben Devstral auf einem dedizierten GPU-Server in einem deutschen Rechenzentrum.

  • Betrieb in deutschem Rechenzentrum
  • Betrieb mit AVV
  • vLLM und OpenAI-kompatible API
Bewertungen
Cloud Wolke HerausforderungServer NachhaltigkeitIT Beratung Service Consulting SoforthilfeTimo Wevelsiep Robin ZinsExperten für Innovation Migration AWSHetzner Hosting zuverlässig

Kunden aus Mittelstand, Industrie und öffentlicher Hand, in Deutschland und international

  • Stadtwerke Brühl
  • DGHO e.V.
  • solarwerkstatt berlin
  • Krüger Dirndl
  • ABCO Water Systems
  • Golem.de
  • EVADXB
  • nextGYM
  • AInergy
  • ml&s
  • Odiseo Solutions
  • Annota
  • ARGE
  • SweetConnect GmbH
  • Aphy AG
  • CORGOS
  • Rekorder
  • SolidProof
  • Yonju
  • Keymate
  • Paritel
  • Mr. Clipart
  • Millenium
  • Negosh
  • Führerscheinmacher
  • BTI
  • Deutsche Gesellschaft für Datenschutz
Kundenstimmen ansehen

Ausgangslage

Warum Devstral selbst betreiben

Devstral ist die Coding-Linie von Mistral AI. Die Modelle sind auf Agenten für die Softwareentwicklung ausgelegt: Codebasis durchsuchen, Änderungen über mehrere Dateien vornehmen, Werkzeuge aufrufen. Devstral Small 2 hat 24 Mrd. Parameter, nimmt auch Bilder entgegen und steht unter Apache 2.0. Devstral 2 hat 123 Mrd. Parameter und steht unter einer Modified MIT License mit Umsatzschwelle. Coding-Agenten senden große Teile einer Codebasis als Kontext an das Modell. Auf einem eigenen Server bleiben Quellcode, Diffs und Testausgaben im deutschen Rechenzentrum. IDE-Erweiterungen und Agenten-Clients sprechen den Server über die OpenAI-kompatible API von vLLM an. Die allgemeinen Modelle Mistral Small 4 und Mistral Medium 3.5 ordnen wir auf der Seite zu Mistral Hosting ein.

  • Daten bleiben in Deutschland

    Das Modell läuft auf einem dedizierten Server in einem deutschen Rechenzentrum. Mit Auftragsverarbeitungsvertrag, ohne Datenweg zu einer Modell-API.

  • Planbare Kosten

    Fester Monatspreis je Serverstufe statt Abrechnung nach verbrauchten Tokens. Mehr Anfragen erhöhen die Rechnung nicht.

  • Modellversion unter Kontrolle

    Checkpoint und Quantisierung bleiben, bis Sie einem Wechsel zustimmen. Kein stilles Modell-Update durch einen Anbieter.

Modellfakten

Devstral-Checkpoints im Überblick

Herstellerangaben und Größe der Gewichtsdateien je Format, mit Quelle.

CheckpointVeröffentlichtParameterKontext laut HerstellerGewichte je Format
mistralai/Devstral-Small-2-24B-Instruct-251212/202524 Mrd. (dense, mit Vision)256K TokensFP8: 25,8 GB
mistralai/Devstral-2-123B-Instruct-251212/2025123 Mrd. (dense, nur Text)256K TokensFP8: 128,2 GB
  • GB = 10⁹ Bytes, Summe der Gewichtsdateien im genannten Hugging-Face-Repository. Zusätzlich braucht der Betrieb Speicher für KV-Cache, Runtime und gegebenenfalls Bildverarbeitung. Stand Oktober 2026.

Lizenz

Devstral: Lizenz und kommerzielle Nutzung

Lizenz

Apache 2.0 (Devstral Small 2) / Modified MIT (Devstral 2) (Lizenztext, Modellkarte Devstral Small 2)

  • Kommerzielle Nutzung: Devstral Small 2: ja, ohne Umsatz- oder Nutzerschwelle. Devstral 2: nur wenn der konsolidierte weltweite Monatsumsatz Ihres Unternehmens (oder Ihres Arbeitgebers) im Vormonat 20 Mio. USD nicht überschreitet.
  • Pflichten und Schwellen: Modified MIT: Namensnennung und Lizenzhinweis beilegen. Oberhalb der Umsatzschwelle bestehen keine Rechte aus der Lizenz, auch nicht für abgeleitete oder kombinierte Modelle; eine kommerzielle Lizenz vergibt Mistral AI auf Anfrage. Apache 2.0: Lizenztext und Hinweise bei Weitergabe beilegen.
  • Prüfstand: Stand Oktober 2026

Technische Einordnung, keine Rechtsberatung. Maßgeblich ist der Lizenztext der eingesetzten Modellversion. Open-Source-LLM-Lizenzen im Vergleich

Serverstufe

Mindestens empfohlene Serverstufe für Devstral

Die Empfehlung folgt aus der Größe der Gewichte plus Reserve für Kontext und Runtime.

ModellFormatGewichteMindestens empfohlenHinweis
Devstral Small 2FP825,8 GBManaged GPU Server 96Die Gewichte allein sind größer als 24 GB. Die Reserve auf 96 GB geht in Kontext und gleichzeitige Agentenläufe.
Devstral 2FP8128,2 GBManaged GPU Server 192Lizenzhinweis: keine Rechte bei mehr als 20 Mio. USD konsolidiertem Monatsumsatz des Unternehmens.
  • Welche Stufe für Ihren Einsatz passt, hängt von Kontextlänge und gleichzeitigen Anfragen ab. Wir prüfen das vor dem Angebot.
  • Mistral veröffentlicht beide Modelle als FP8-Checkpoint. Die Repositories enthalten die Gewichte zusätzlich ein zweites Mal im Format consolidated, das beim Betrieb nicht doppelt geladen wird.

Preis

Die Stufen des Managed GPU Servers

Managed GPU Server 24

1 × RTX PRO 4000 Blackwell, 24 GB GPU-Speicher

699 € netto / Monatmonatlich kündbar499 € netto Einrichtung einmalig

Für diese Familie relevant

Managed GPU Server 96

1 × RTX PRO 6000 Blackwell Max-Q, 96 GB GPU-Speicher

2.199 € netto / Monatmonatlich kündbar1.999 € netto Einrichtung einmalig

Für diese Familie relevant

Managed GPU Server 192

2 × RTX PRO 6000 Blackwell Max-Q, 192 GB GPU-Speicher

Preis und Laufzeit auf Anfrage

Managed GPU Server 384

4 × RTX PRO 6000 Blackwell Max-Q, 384 GB GPU-Speicher

Preis und Laufzeit auf Anfrage

Der Managed GPU Server 288 mit drei GPUs ist für mehrere Modelle nebeneinander gedacht, weil vLLM ein Modell nur bei durch die GPU-Zahl teilbaren Attention-Heads verteilt.

Alle Preise verstehen sich netto zuzüglich gesetzlicher Umsatzsteuer. Die Angebote richten sich an Unternehmen.

Zahlung
  • SEPA-Lastschrift
  • Visa
  • Mastercard
  • American Express
  • Apple Pay
  • Google Pay
  • PayPal
  • Überweisung

vLLM

Devstral mit vLLM betreiben

Architektur, Quantisierung und Verteilung auf mehrere GPUs.

Architekturen

Devstral Small 2 nutzt Mistral3ForConditionalGeneration mit Bild-Encoder, Devstral 2 die reine Textarchitektur Ministral3ForCausalLM. Beide stehen in der Liste der von vLLM unterstützten Modelle. Mistral verlangt für den Betrieb mistral_common ab Version 1.8.6.

Tool Calling für Agenten

Coding-Agenten rufen Werkzeuge über Function Calling auf. vLLM aktiviert das für Devstral mit dem Tool-Call-Parser mistral und automatischer Tool-Auswahl, so wie in der Modellkarte beschrieben. Clients mit OpenAI-kompatibler Schnittstelle nutzen das über Basis-URL und API-Schlüssel.

Kontext und gleichzeitige Agenten

Jeder Agentenlauf hält seinen Kontext im KV-Cache. Lange Kontexte und viele gleichzeitige Läufe teilen sich denselben GPU-Speicher. Mistrals eigenes Beispiel betreibt Devstral Small 2 mit vollen 262.144 Tokens auf zwei GPUs. Auf einer GPU stellen wir Kontextlänge und parallele Läufe passend zu Ihrem Team ein.

Tensor-Parallelität

Devstral Small 2 hat 32 Attention-Heads, Devstral 2 hat 96, beide mit 8 KV-Heads. Beide lassen sich auf zwei oder vier GPUs verteilen. Mistrals Beispiel für Devstral 2 nutzt acht GPUs; für die FP8-Gewichte mit rund 128 GB empfehlen wir mindestens zwei RTX PRO 6000.

Betrieb durch WZ-IT

Was im Betrieb enthalten ist

Der Managed GPU Server ist eine betriebene Modellumgebung, kein leerer Server.

Managed GPU Server ansehen
Modell und API
  • Modell und vLLM

    Ein abgestimmtes Modell in der vereinbarten Quantisierung, bereitgestellt über eine gemanagte vLLM-Inferenzschicht.

  • OpenAI-kompatible API

    Anwendungen und Coding-Clients binden den Server über Basis-URL und API-Schlüssel an.

Oberfläche und Überwachung
  • Open WebUI

    Gemanagte Chat-Oberfläche für Teams, die das Modell ohne eigene Anwendung nutzen.

  • 24/7 Monitoring

    Host, GPU, vLLM und Open WebUI werden proaktiv überwacht, Störungen nach Service Level bearbeitet.

Pflege und Vertrag
  • Updates mit CVE-Einordnung

    Betriebssystem, Treiber, vLLM und Open WebUI werden geprüft und kontrolliert aktualisiert. Modellwechsel nur nach Absprache.

  • AVV und Dokumentation

    Auftragsverarbeitungsvertrag, dokumentierte Konfiguration und ein persönlicher Ansprechpartner.

Leistungsumfang, Preise und Mehr-GPU-Server stehen auf der Produktseite.

Häufige Fragen zu Devstral Hosting

Lizenz, Serverstufe, Datenweg und Betrieb

Bewertungen & Projekte

Was Kunden über die Zusammenarbeit sagen

Von der Wissensdatenbank mit KI-Assistent über die lokale KI-Integration bis zu Datenhoheit und laufendem Betrieb.

KI-Plattform

Wir waren auf der Suche nach einer sicheren, aber trotzdem einfach nutzbaren Alternative zu den großen amerikanischen Anbietern und sind auf WZ-IT gestoßen. WZ-IT hat uns bei der Auswahl der passenden Modelle beraten und die Anbindung für uns umgesetzt. Vorab konnten wir alles in Ruhe auf einer Testinstanz ausprobieren. Heute betreibt WZ-IT Open WebUI für uns auf unserer eigenen Domain, mit komfortablem Microsoft-Login und Open-Source-Modellen, die bei einem deutschen Anbieter gehostet sind. Unser Team kann damit produktiv mit KI arbeiten, ohne auf externe Tools oder Schatten-KI auszuweichen. Die Zusammenarbeit ist unkompliziert, Rückfragen werden schnell und verständlich beantwortet. Mit WZ-IT haben wir außerdem einen Partner an der Seite, mit dem wir weitere KI-Projekte angehen können.
Carl-Frederic KornHead of E-Commerce & Online Marketing, Krüger Dirndl GmbH
KI-Plattform ansehen

Wissensmanagement & KI

Das Wissen aus vielen Jahren Solarbranche steckte im Kopf unseres früheren Geschäftsführers und steckt bis heute in den Köpfen unserer Mitarbeitenden. Wir wollten es sichern, nicht als Ordner voller Notizen, sondern so, dass wir im Alltag Fragen stellen und belastbare Antworten bekommen. WZ-IT hat uns dabei von Anfang an beraten und verschiedene Ansätze und Wissensmanagementsysteme mit uns gegeneinander abgewogen, bevor wir uns entschieden haben. Umgesetzt wurde eine individuelle Wissensdatenbank mit KI-Assistent, die Gespräche, Notizen, Dokumentationen und Handbücher zusammenführt: von der Plattform über das Onboarding unseres Teams bis zur Begleitung im Betrieb. Gespräche werden transkribiert und Fakten extrahiert, wir prüfen und korrigieren alles selbst, bevor es gespeichert wird, denn wir wollen einer KI nicht blind vertrauen. Das System läuft in unserer eigenen Umgebung, die Daten bleiben bei uns. Überrascht hat uns, wie effizient das ging: WZ-IT hat bestehende Open-Source-Software genutzt und gezielt auf unsere Anforderungen erweitert, statt eine teure Eigenentwicklung von Grund auf zu verkaufen, wie es bei IT-Dienstleistern sonst oft üblich ist. Timo und Robin haben unser eigentliches Problem verstanden, die Wissenssicherung beim Generationswechsel, und es Schritt für Schritt umgesetzt: vom Proof of Concept über Aufbau und Validierung mit unseren eigenen Daten bis in den produktiven Betrieb, und dabei alles verständlich erklärt. Als Nächstes wollen wir das auf das Wissen unserer Mitarbeitenden ausweiten, damit auch das nicht an einzelnen Personen hängt.
Joshua von AmelnGeschäftsführer, solarwerkstatt berlin GmbH
Wissenstransfer ansehen

Kundenstimmen ansehen

International

Ausgewählte Projekte

WZ-IT plant, entwickelt und betreibt Infrastruktur und Software für Kunden in Deutschland und international. Projekte setzen wir remote um und begleiten sie auch nach dem Go-live im laufenden Betrieb.

Modell prüfen lassen

Modell und Serverstufe prüfen lassen

Nennen Sie Modell, Kontextlänge und gleichzeitige Anfragen. Wir prüfen Checkpoint, Lizenz und Serverstufe vor dem Angebot.

  • Sie sprechen direkt mit Timo und Robin, den technisch Verantwortlichen
  • Fachliche Einschätzung Ihrer Situation
  • Konkrete nächste Schritte für Infrastruktur, Software oder KI

Das Gespräch ist kostenfrei und unverbindlich.

Die Beratung von WZ-IT zu unserer Azure-Migration war schon im Erstgespräch fachlich sehr fundiert und völlig unverbindlich - wir haben eine Menge mitgenommen.
Jakob ÖschlbergerInno7 GmbH
Timo und Robin, Gründer von WZ-IT

Welche Serverstufe soll geprüft werden?

Die Auswahl ist unverbindlich. Wir bestätigen Modell-Fit, Lizenz und Laufzeit vor einem Angebot.

Antwort in der Regel innerhalb eines Werktags. Bitte senden Sie noch keine Zugangsdaten.

Die Beratung von WZ-IT zu unserer Azure-Migration war schon im Erstgespräch fachlich sehr fundiert und völlig unverbindlich - wir haben eine Menge mitgenommen.
Jakob ÖschlbergerInno7 GmbH