[email protected]

Gemma Hosting in Deutschland: Gemma 4 auf dedizierter GPU betreiben

Sie möchten ein mehrsprachiges Modell mit Bildeingabe nutzen, das unter Apache 2.0 steht. Wir betreiben Gemma 4 auf einem dedizierten GPU-Server in einem deutschen Rechenzentrum.

  • Betrieb in deutschem Rechenzentrum
  • Betrieb mit AVV
  • vLLM und OpenAI-kompatible API
Bewertungen
Cloud Wolke HerausforderungServer NachhaltigkeitIT Beratung Service Consulting SoforthilfeTimo Wevelsiep Robin ZinsExperten für Innovation Migration AWSHetzner Hosting zuverlässig

Kunden aus Mittelstand, Industrie und öffentlicher Hand, in Deutschland und international

  • Stadtwerke Brühl
  • DGHO e.V.
  • solarwerkstatt berlin
  • Krüger Dirndl
  • ABCO Water Systems
  • Golem.de
  • EVADXB
  • nextGYM
  • AInergy
  • ml&s
  • Odiseo Solutions
  • Annota
  • ARGE
  • SweetConnect GmbH
  • Aphy AG
  • CORGOS
  • Rekorder
  • SolidProof
  • Yonju
  • Keymate
  • Paritel
  • Mr. Clipart
  • Millenium
  • Negosh
  • Führerscheinmacher
  • BTI
  • Deutsche Gesellschaft für Datenschutz
Kundenstimmen ansehen

Ausgangslage

Warum Gemma selbst betreiben

Gemma ist die Open-Weight-Familie von Google DeepMind. Gemma 4 gibt es als Dense-Modelle (31B, 12B) und als Mixture-of-Experts-Modell (26B A4B), mit Bildeingabe, über 140 Sprachen und bis zu 256K Kontext. Mit Gemma 4 hat Google die Lizenz auf Apache 2.0 umgestellt. Für viele Unternehmen ist Gemma 4 interessant, weil Google offizielle 4-Bit-Checkpoints mit Quantization-Aware Training veröffentlicht. Damit lassen sich auch kleinere GPU-Stufen nutzen, ohne auf Community-Quantisierungen angewiesen zu sein.

  • Daten bleiben in Deutschland

    Das Modell läuft auf einem dedizierten Server in einem deutschen Rechenzentrum. Mit Auftragsverarbeitungsvertrag, ohne Datenweg zu einer Modell-API.

  • Planbare Kosten

    Fester Monatspreis je Serverstufe statt Abrechnung nach verbrauchten Tokens. Mehr Anfragen erhöhen die Rechnung nicht.

  • Modellversion unter Kontrolle

    Checkpoint und Quantisierung bleiben, bis Sie einem Wechsel zustimmen. Kein stilles Modell-Update durch einen Anbieter.

Modellfakten

Gemma-Checkpoints im Überblick

Herstellerangaben und Größe der Gewichtsdateien je Format, mit Quelle.

CheckpointVeröffentlichtParameterKontext laut HerstellerGewichte je Format
google/gemma-4-31B-it04/202630,7 Mrd. (dense)256K TokensBF16: 62,5 GB
QAT W4A16: 23,3 GB
QAT Q4_0 (GGUF): 17,7 GB
google/gemma-4-26B-A4B-it04/202625,2 Mrd. gesamt / 3,8 Mrd. aktiv (MoE)256K TokensBF16: 51,6 GB
QAT Q4_0 (GGUF): 14,4 GB
google/gemma-4-12B-it05/202611,95 Mrd. (dense)256K TokensBF16: 23,9 GB
QAT W4A16: 10,3 GB
  • GB = 10⁹ Bytes, Summe der Gewichtsdateien im genannten Hugging-Face-Repository. Zusätzlich braucht der Betrieb Speicher für KV-Cache, Runtime und gegebenenfalls Bildverarbeitung. Stand Oktober 2026.

Lizenz

Gemma: Lizenz und kommerzielle Nutzung

Lizenz

Apache License 2.0 (Gemma 4) (Lizenztext)

  • Kommerzielle Nutzung: Ja, ohne Umsatz- oder Nutzerschwelle.
  • Pflichten und Schwellen: Die Lizenzseite zu Gemma 4 enthält den Apache-2.0-Text ohne zusätzliche Nutzungsbedingungen. Gemma 3 und ältere Versionen stehen weiter unter den Gemma Terms of Use mit Prohibited Use Policy.
  • Prüfstand: Stand Oktober 2026

Technische Einordnung, keine Rechtsberatung. Maßgeblich ist der Lizenztext der eingesetzten Modellversion. Open-Source-LLM-Lizenzen im Vergleich

Serverstufe

Mindestens empfohlene Serverstufe für Gemma

Die Empfehlung folgt aus der Größe der Gewichte plus Reserve für Kontext und Runtime.

ModellFormatGewichteMindestens empfohlenHinweis
Gemma 4 31BBF1662,5 GBManaged GPU Server 96–
Gemma 4 31BQAT W4A1623,3 GBManaged GPU Server 96Die Gewichte belegen fast die gesamten 24 GB. Für Kontext und Runtime ist die nächste Stufe nötig.
Gemma 4 26B A4BBF1651,6 GBManaged GPU Server 96–
Gemma 4 12BBF1623,9 GBManaged GPU Server 96–
Gemma 4 12BQAT W4A1610,3 GBManaged GPU Server 24–
  • Welche Stufe für Ihren Einsatz passt, hängt von Kontextlänge und gleichzeitigen Anfragen ab. Wir prüfen das vor dem Angebot.
  • Die QAT-Q4_0-Dateien im GGUF-Format sind für llama.cpp und darauf aufbauende Werkzeuge gedacht. Unsere Serverstufen nutzen vLLM, deshalb ordnen wir dort die W4A16-Checkpoints im Format compressed-tensors ein. Für Gemma 4 26B A4B veröffentlicht Google zum Prüfzeitpunkt keinen W4A16-Checkpoint.

Preis

Die Stufen des Managed GPU Servers

Für diese Familie relevant

Managed GPU Server 24

1 × RTX PRO 4000 Blackwell, 24 GB GPU-Speicher

699 € netto / Monatmonatlich kündbar499 € netto Einrichtung einmalig

Für diese Familie relevant

Managed GPU Server 96

1 × RTX PRO 6000 Blackwell Max-Q, 96 GB GPU-Speicher

2.199 € netto / Monatmonatlich kündbar1.999 € netto Einrichtung einmalig

Managed GPU Server 192

2 × RTX PRO 6000 Blackwell Max-Q, 192 GB GPU-Speicher

Preis und Laufzeit auf Anfrage

Managed GPU Server 384

4 × RTX PRO 6000 Blackwell Max-Q, 384 GB GPU-Speicher

Preis und Laufzeit auf Anfrage

Der Managed GPU Server 288 mit drei GPUs ist für mehrere Modelle nebeneinander gedacht, weil vLLM ein Modell nur bei durch die GPU-Zahl teilbaren Attention-Heads verteilt.

Alle Preise verstehen sich netto zuzüglich gesetzlicher Umsatzsteuer. Die Angebote richten sich an Unternehmen.

Zahlung
  • SEPA-Lastschrift
  • Visa
  • Mastercard
  • American Express
  • Apple Pay
  • Google Pay
  • PayPal
  • Überweisung

vLLM

Gemma mit vLLM betreiben

Architektur, Quantisierung und Verteilung auf mehrere GPUs.

Architekturen

Gemma 4 31B und 26B A4B nutzen Gemma4ForConditionalGeneration, Gemma 4 12B die encoderfreie Variante Gemma4UnifiedForConditionalGeneration. Beide stehen in der Liste der von vLLM unterstützten Modelle.

Quantisierung

Für vLLM veröffentlicht Google die QAT-Checkpoints im Format compressed-tensors (W4A16: 4-Bit-Gewichte, 16-Bit-Aktivierungen). Die GGUF-Dateien mit Q4_0 richten sich an llama.cpp.

Hybride Attention

Gemma 4 wechselt zwischen lokaler Sliding-Window-Attention und globaler Attention. Das senkt den Speicherbedarf langer Kontexte, ersetzt aber nicht die Auslegung von Kontextlänge und Parallelität.

Tensor-Parallelität

Gemma 4 31B hat 32 Attention-Heads, 26B A4B und 12B haben 16. Für die genannten Checkpoints reicht eine GPU. Zwei GPUs kommen bei langen Kontexten oder mehreren Modellen auf einem Server in Frage.

Betrieb durch WZ-IT

Was im Betrieb enthalten ist

Der Managed GPU Server ist eine betriebene Modellumgebung, kein leerer Server.

Managed GPU Server ansehen
Modell und API
  • Modell und vLLM

    Ein abgestimmtes Modell in der vereinbarten Quantisierung, bereitgestellt über eine gemanagte vLLM-Inferenzschicht.

  • OpenAI-kompatible API

    Anwendungen und Coding-Clients binden den Server über Basis-URL und API-Schlüssel an.

Oberfläche und Überwachung
  • Open WebUI

    Gemanagte Chat-Oberfläche für Teams, die das Modell ohne eigene Anwendung nutzen.

  • 24/7 Monitoring

    Host, GPU, vLLM und Open WebUI werden proaktiv überwacht, Störungen nach Service Level bearbeitet.

Pflege und Vertrag
  • Updates mit CVE-Einordnung

    Betriebssystem, Treiber, vLLM und Open WebUI werden geprüft und kontrolliert aktualisiert. Modellwechsel nur nach Absprache.

  • AVV und Dokumentation

    Auftragsverarbeitungsvertrag, dokumentierte Konfiguration und ein persönlicher Ansprechpartner.

Leistungsumfang, Preise und Mehr-GPU-Server stehen auf der Produktseite.

Häufige Fragen zu Gemma Hosting

Lizenz, Serverstufe, Datenweg und Betrieb

Bewertungen & Projekte

Was Kunden über die Zusammenarbeit sagen

Von der Wissensdatenbank mit KI-Assistent über die lokale KI-Integration bis zu Datenhoheit und laufendem Betrieb.

KI-Plattform

Wir waren auf der Suche nach einer sicheren, aber trotzdem einfach nutzbaren Alternative zu den großen amerikanischen Anbietern und sind auf WZ-IT gestoßen. WZ-IT hat uns bei der Auswahl der passenden Modelle beraten und die Anbindung für uns umgesetzt. Vorab konnten wir alles in Ruhe auf einer Testinstanz ausprobieren. Heute betreibt WZ-IT Open WebUI für uns auf unserer eigenen Domain, mit komfortablem Microsoft-Login und Open-Source-Modellen, die bei einem deutschen Anbieter gehostet sind. Unser Team kann damit produktiv mit KI arbeiten, ohne auf externe Tools oder Schatten-KI auszuweichen. Die Zusammenarbeit ist unkompliziert, Rückfragen werden schnell und verständlich beantwortet. Mit WZ-IT haben wir außerdem einen Partner an der Seite, mit dem wir weitere KI-Projekte angehen können.
Carl-Frederic KornHead of E-Commerce & Online Marketing, Krüger Dirndl GmbH
KI-Plattform ansehen

Wissensmanagement & KI

Das Wissen aus vielen Jahren Solarbranche steckte im Kopf unseres früheren Geschäftsführers und steckt bis heute in den Köpfen unserer Mitarbeitenden. Wir wollten es sichern, nicht als Ordner voller Notizen, sondern so, dass wir im Alltag Fragen stellen und belastbare Antworten bekommen. WZ-IT hat uns dabei von Anfang an beraten und verschiedene Ansätze und Wissensmanagementsysteme mit uns gegeneinander abgewogen, bevor wir uns entschieden haben. Umgesetzt wurde eine individuelle Wissensdatenbank mit KI-Assistent, die Gespräche, Notizen, Dokumentationen und Handbücher zusammenführt: von der Plattform über das Onboarding unseres Teams bis zur Begleitung im Betrieb. Gespräche werden transkribiert und Fakten extrahiert, wir prüfen und korrigieren alles selbst, bevor es gespeichert wird, denn wir wollen einer KI nicht blind vertrauen. Das System läuft in unserer eigenen Umgebung, die Daten bleiben bei uns. Überrascht hat uns, wie effizient das ging: WZ-IT hat bestehende Open-Source-Software genutzt und gezielt auf unsere Anforderungen erweitert, statt eine teure Eigenentwicklung von Grund auf zu verkaufen, wie es bei IT-Dienstleistern sonst oft üblich ist. Timo und Robin haben unser eigentliches Problem verstanden, die Wissenssicherung beim Generationswechsel, und es Schritt für Schritt umgesetzt: vom Proof of Concept über Aufbau und Validierung mit unseren eigenen Daten bis in den produktiven Betrieb, und dabei alles verständlich erklärt. Als Nächstes wollen wir das auf das Wissen unserer Mitarbeitenden ausweiten, damit auch das nicht an einzelnen Personen hängt.
Joshua von AmelnGeschäftsführer, solarwerkstatt berlin GmbH
Wissenstransfer ansehen

Kundenstimmen ansehen

International

Ausgewählte Projekte

WZ-IT plant, entwickelt und betreibt Infrastruktur und Software für Kunden in Deutschland und international. Projekte setzen wir remote um und begleiten sie auch nach dem Go-live im laufenden Betrieb.

Modell prüfen lassen

Modell und Serverstufe prüfen lassen

Nennen Sie Modell, Kontextlänge und gleichzeitige Anfragen. Wir prüfen Checkpoint, Lizenz und Serverstufe vor dem Angebot.

  • Sie sprechen direkt mit Timo und Robin, den technisch Verantwortlichen
  • Fachliche Einschätzung Ihrer Situation
  • Konkrete nächste Schritte für Infrastruktur, Software oder KI

Das Gespräch ist kostenfrei und unverbindlich.

Die Beratung von WZ-IT zu unserer Azure-Migration war schon im Erstgespräch fachlich sehr fundiert und völlig unverbindlich - wir haben eine Menge mitgenommen.
Jakob ÖschlbergerInno7 GmbH
Timo und Robin, Gründer von WZ-IT

Welche Serverstufe soll geprüft werden?

Die Auswahl ist unverbindlich. Wir bestätigen Modell-Fit, Lizenz und Laufzeit vor einem Angebot.

Antwort in der Regel innerhalb eines Werktags. Bitte senden Sie noch keine Zugangsdaten.

Die Beratung von WZ-IT zu unserer Azure-Migration war schon im Erstgespräch fachlich sehr fundiert und völlig unverbindlich - wir haben eine Menge mitgenommen.
Jakob ÖschlbergerInno7 GmbH