Setup & Konfiguration (optional)
Auf Wunsch: Vollständige Einrichtung Ihrer AI-Server inkl. Betriebssystem, GPU-Treibern, CUDA, Docker, Kubernetes oder Ihrer bevorzugten Orchestrierung. Installation und Konfiguration von AI-Frameworks wie PyTorch, TensorFlow, Ollama oder vLLM nach Ihren Anforderungen.
Proaktives Monitoring
24/7 Überwachung aller kritischen Systemmetriken: GPU-Auslastung, Temperatur, Arbeitsspeicher, Netzwerk und Anwendungsperformance. Automatische Warnmeldungen bei Anomalien, damit wir eingreifen können, bevor der Betrieb betroffen ist. Grafana-Dashboards mit Einblick in Ihre Infrastruktur sind optional zubuchbar.
Security & Updates
Regelmäßige Sicherheitsupdates für Betriebssystem, GPU-Treiber und alle installierten Komponenten. Automatisierte Patch-Management-Prozesse mit Rollback-Möglichkeiten. Firewall-Konfiguration, SSH-Härtung und proaktive Schwachstellen-Scans.
Backup & Disaster Recovery (Optional)
Automatisierte Backups Ihrer Konfigurationen, Modelle und Daten möglich (optional). Sichere Aufbewahrung in geografisch getrennten Rechenzentren. Getestete Wiederherstellungsprozesse mit definierten Recovery Time Objectives (RTO) und Recovery Point Objectives (RPO).
Support & Troubleshooting
Direkter Zugang zu erfahrenen DevOps- und AI-Infrastruktur-Experten via E-Mail, Telefon oder Ticket-System. Reaktionszeiten gemäß vereinbartem Service Level. Unterstützung bei Performance-Optimierung, Skalierung und Troubleshooting von AI-Workloads.
Service Level Agreements
Reaktions- und Wiederherstellungszeiten vereinbaren wir individuell und halten sie schriftlich fest - abgestuft nach Kritikalität Ihrer Umgebung. Dazu gehören definierte Prioritätsstufen, nachvollziehbare Incident-Dokumentation und ein regelmäßiger Report über Störungen und Wartungsarbeiten.
KI-Server Wartung und Betrieb: bestehende KI-Infrastruktur betreuen lassen
Ihre KI-Anwendung läuft, aber niemand im Team hält Treiber, Container und Inferenz-Runtime aktuell. Wir übernehmen den technischen Betrieb, überwachen rund um die Uhr und dokumentieren jede Änderung.
- Managed KI-Server & Runtime
- Betrieb vorhandener KI-Server
- 24/7 Monitoring
- Dokumentierte Änderungen
Einordnung
Wenn der KI-Server läuft, aber niemand ihn wartet
Viele KI-Anwendungen entstehen in einem Projekt und laufen danach auf einem Server, für den sich niemand zuständig fühlt. Wir übernehmen den technischen Betrieb Ihrer KI-Infrastruktur: Betriebssystem, GPU-Treiber, Container und Inferenz-Runtime wie vLLM oder Ollama.
Am Anfang steht eine technische Prüfung des vorhandenen Stacks. Danach legen wir Zuständigkeiten, Service Level und Änderungswege schriftlich fest; Sie behalten die volle Kontrolle über Daten und Modelle.
Leistungsumfang
Was Wartung und Betrieb des KI-Servers umfassen
Wir übernehmen die laufenden Aufgaben rund um Ihre KI-Server-Infrastruktur.
Zuständigkeiten
Wer wofür zuständig ist
Die genaue Aufteilung halten wir nach der technischen Prüfung schriftlich fest. Typisch ist diese Verteilung:
| Bereich | WZ-IT | Sie |
|---|---|---|
| Betriebssystem, GPU-Treiber, CUDA | Updates, Härtung, Monitoring | Freigabe von Wartungsfenstern |
| Container und Orchestrierung | Betrieb, Updates, Wiederanlauf | Anforderungen an neue Dienste |
| Inferenz-Runtime (vLLM, Ollama) | Pflege, Konfiguration, Fehleranalyse | Vorgaben zu Modellen und Kontext |
| Modelle | Einspielen und Testen nach Freigabe | Auswahl und Freigabe neuer Versionen |
| Anwendung und Fachlogik | Optional: Managed LLMOps | Fachliche Verantwortung |
Infrastruktur
Ihre Hardware, Ihr Hoster oder unser Rechenzentrum
Wir betreuen vorhandene KI-Server oder stellen neue in deutschen Rechenzentren bereit.
Ihre Hardware oder unsere
Wir betreiben KI-Server auf Ihrer eigenen Hardware oder bei Ihrem Hoster, nach technischer Prüfung. Neue Hardware stellen wir als Managed GPU Server bereit: mit einer NVIDIA RTX PRO 4000 Blackwell (24 GB) oder einer RTX PRO 6000 Blackwell Max-Q (96 GB), oder mit zwei bis vier RTX PRO 6000 für große Modelle.Serverstandort Deutschland
Server, die WZ-IT bereitstellt, stehen in deutschen Rechenzentren. Der jeweilige Rechenzentrumsbetreiber ist nach ISO 27001 und BSI C5 Type 2 zertifiziert - diese Zertifizierungen gelten für den Betreiber des Rechenzentrums, nicht für WZ-IT. Ihre Daten bleiben im deutschen Rechtsraum. Redundante Stromversorgung, Klimatisierung und physische Zutrittskontrolle gehören zum Standard dieser Rechenzentren.Hochleistungs-Netzwerk
Direkte Anbindung an europäische Internet-Backbones mit geringen Latenzen. 1 Gbit/s inklusive, 10 Gbit/s optional verfügbar. DDoS-Schutz und redundante Netzwerkpfade für maximale Ausfallsicherheit.Flexible Storage-Optionen
NVMe-SSD-Speicher für maximale I/O-Performance bei Modell-Loading und Daten-Preprocessing. Optionale Anbindung an Object Storage (S3-kompatibel) für große Datasets und Modell-Repositories. Automatisierte Backup-Systeme mit verschlüsselter Speicherung.
Preise
Preis und Leistungsumfang
Den Preis nennen wir im Angebot, abgestimmt auf Konfiguration und Betriebsumfang. Server mit einer GPU sind monatlich kündbar, bei Mehr-GPU-Servern steht die Laufzeit im Angebot.
Managed KI-Server & RuntimePreis nach technischer PrüfungDen Preis für den Betrieb richten wir nach GPU, Modell-Runtime und Infrastrukturumfang aus. Grundlage ist die technische Prüfung Ihres Stacks; das Ergebnis und der Preis stehen im Angebot, alles aus einer Hand.
Im Betrieb enthalten
- 24/7 Monitoring von Host, GPU und Runtime, Sicherheitsupdates für Betriebssystem, Treiber und Container, Pflege der Inferenz-Runtime, Incident-Bearbeitung nach vereinbartem Service Level und eine dokumentierte Betriebsumgebung. Backups sind optional.
Zahlung
- Überweisung
Keine Vendor Lock-ins: Export von Daten und Konfigurationen in vereinbarten Standardformaten. Sie behalten die Kontrolle über Ihre KI-Modelle und Daten; bei einem Wechsel unterstützen wir die abgestimmte Übergabe. Laufzeit und Konditionen stehen im Angebot. Hinweis zu Preisen: Angegebene Preise sind unverbindliche Richtpreise und können sich ändern. Der konkrete Preis hängt von Ihrer individuellen Konfiguration, Laufzeit und Leistungsumfang ab. Für ein verbindliches Angebot sprechen Sie uns bitte direkt an. Alle Preise verstehen sich netto zuzüglich gesetzlicher Umsatzsteuer. Die Angebote richten sich an Unternehmen.
Warum WZ-IT
Warum WZ-IT für den Betrieb Ihrer KI-Server?
Deutsches Hosting & DSGVO
Die angebotenen Serverstandorte liegen in Deutschland. Datenflüsse durch optionale Integrationen, Updates und Fernzugriffe werden gesondert dokumentiert - das erleichtert die Datenschutzbewertung der konkreten Umgebung.AI & Open Source Expertise
Langjährige Erfahrung mit Open-Source-KI-Stacks: Ollama, vLLM, PyTorch, TensorFlow, CUDA-Optimierung. Wir kennen die Fallstricke bei GPU-Treibern, Modell-Quantisierung und Performance-Tuning und bringen diese Praxiserfahrung in Ihr Projekt ein.Persönlicher Support
Kein anonymer Ticket-Support: Sie haben direkte Ansprechpartner, die Ihre Infrastruktur und Ihre Anforderungen kennen. Schnelle Entscheidungswege, pragmatische Lösungen und echte Partnerschaft statt Call-Center-Mentalität. Bei Bedarf auch Vor-Ort-Termine möglich.Keine Lock-in-Effekte
Root-Zugriff nach vereinbartem Betriebsmodell und Export in vereinbarten Standardformaten. Wir setzen auf etablierte Technologien und dokumentieren Abhängigkeiten, damit ein späterer Wechsel planbar bleibt.Flexible Skalierung
Starten Sie mit einem Server und wachsen Sie nach Bedarf. Einfache Erweiterung um zusätzliche GPU-Nodes, Storage oder Netzwerk-Kapazität. Wir beraten Sie zu optimalen Sizing-Strategien und unterstützen bei der Implementierung von Auto-Scaling-Konzepten.Kosteneffizienz
Bei Dauerbetrieb ist ein fester Monatspreis in der Regel besser planbar als abgerechnete Cloud-GPU-Stunden. Keine unerwarteten Kosten durch Speicher- oder Traffic-Gebühren. Was sich in Ihrem Fall rechnet, sehen wir uns im Erstgespräch gemeinsam an.
Vergleich
Managed vs. Unmanaged im Vergleich
| Managed Service | Unmanaged Server | |
|---|---|---|
| Setup & Konfiguration | Vollständig durch uns | Eigenständig |
| Monitoring | 24/7 Proaktiv | Selbst implementieren |
| Updates | Automatisiert mit Tests | Manuell erforderlich |
| Support | Schneller Experten-Support | Keine Unterstützung |
| Zeitaufwand | Fokus auf Entwicklung | Zeit für Admin-Aufgaben |
Häufig gestellte Fragen
Antworten auf die wichtigsten Fragen
- Auf der Inferenz-Ebene vLLM und Ollama, dazu Open WebUI, Container mit Docker oder Kubernetes, GPU-Treiber und CUDA. Weitere Komponenten wie eigene Python-Dienste oder Trainings-Frameworks ordnen wir in der technischen Prüfung ein und halten den Betreuungsumfang im Angebot fest.
- Betriebssystem, GPU-Treiber, CUDA, Container und Inferenz-Runtime erhalten Updates in abgestimmten Wartungsfenstern. Treiber- und Runtime-Versionen prüfen wir vorher auf Verträglichkeit, weil ein neuer Treiber eine bestehende vLLM-Version brechen kann. Jede Änderung hat einen Rückfallweg und wird dokumentiert. Das Monitoring überwacht GPU-Auslastung, Temperatur, Speicher und die Erreichbarkeit der API rund um die Uhr.
- Administrative Rechte stimmen wir je nach Betriebsmodell mit Ihnen ab. Eigene Software und Konfigurationen sind im vereinbarten technischen Rahmen möglich. Änderungswege legen wir so fest, dass die Managed-Verantwortung für das Basissystem nachvollziehbar bleibt.
- Nach der technischen Prüfung übernehmen wir den Betrieb zum vereinbarten Termin. Den Zeitplan stimmen wir im Erstgespräch ab; er hängt vom Zustand des vorhandenen Stacks und vom Umfang der Übernahme ab.
- Bei einem Managed GPU Server von WZ-IT organisieren wir den Austausch über das Rechenzentrum. Bei Ihrer eigenen Hardware oder Ihrem Hoster erkennen wir den Defekt im Monitoring, grenzen ihn ein und stimmen den Austausch mit Ihnen oder dem Hoster ab. Ist die optionale Backup-Leistung gebucht, stellen wir Ihre Daten daraus wieder her. Reaktions- und Wiederherstellungszeiten richten sich nach dem vereinbarten Service Level.
- Nein. Wir übernehmen den Betrieb auf Ihrer eigenen Hardware oder bei Ihrem Hoster, sofern die technische Prüfung das zulässt. Wenn Sie neue Hardware brauchen, stellen wir sie als Managed GPU Server in einem deutschen Rechenzentrum bereit.
- Wir berechnen einen festen Monatspreis. Er richtet sich nach Anzahl der GPUs, eingesetzter Runtime, Zahl der Dienste und vereinbartem Service Level. Grundlage ist die technische Prüfung des vorhandenen Stacks; Preis und Laufzeit stehen danach im Angebot. Neue Hardware mit Betrieb gibt es als Managed GPU Server mit veröffentlichten Preisen.
- Wartung und Betrieb des KI-Servers betreffen die Infrastruktur: Hardware, Betriebssystem, Treiber, Container und Inferenz-Runtime. Managed LLMOps betrachtet die Anwendung darüber: Antwortqualität, Retrieval, Prompts, Modellversionen, Kosten und Latenz je Anfrage. Beides lässt sich einzeln oder zusammen beauftragen.
Passt dazu
Weitere KI-Leistungen von WZ-IT
KI-Leistungen
- LLM-HostingModelle in Deutschland betreiben - Auswahl, Bereitstellung und Betrieb des Inferenz-Stacks.
- GPU-ServerDedizierte GPU-Server mit Modell, vLLM und Open WebUI in einem deutschen Rechenzentrum.
- AI CubeEigene Hardware im Haus, wenn die Daten den Standort nicht verlassen sollen.
- Managed LLMOpsTraces, Qualität, Retrieval, Kosten und Änderungen produktiver KI-Anwendungen laufend kontrollieren.
- Zurück zur Übersicht aller KI-Leistungen
Vertiefende Guides zu diesem Thema
Verwandte Tutorials & Guides
- Open WebUI, LibreChat, AnythingLLM & Co. im Vergleich 2026Für KI-Chat im Unternehmen gibt es sechs verbreitete Open-Source-Plattformen: Open WebUI, LibreChat, AnythingLLM, LobeHub, Onyx und PrivateGPT. Sie lösen unterschiedliche Aufgaben, sehen aber auf den...
- Hetzner GPU-Server im Vergleich: GEX45, GEX63 und GEX131 (Stand Oktober 2026)Hetzner hat sein GPU-Sortiment im Herbst 2026 umgebaut: Am 1. September kam der GEX45, am 6. Oktober der GEX63, und der GEX44 ist nicht mehr...
- Förderung für IT- und Digitalisierungsprojekte in NRW 2026: was läuft, was ausgelaufen istWer 2026 ein IT- oder Digitalisierungsprojekt mit Fördergeld angehen will, findet viele Ratgeber, die noch Programme nennen, die es nicht mehr gibt. go-digital ist seit...
- LiteLLM-Sicherheitslücke GHSA-7hp6-4w63-5g45: Versionen prüfen und Gateway absichernAm 30. September 2026 hat BerriAI ein Sicherheitsadvisory für den LiteLLM-Proxy veröffentlicht: GHSA-7hp6-4w63-5g45. Ein angemeldeter Nutzer mit der Rolle internaluser kann sich damit zum proxyadmin...
- Schatten-KI im Unternehmen: warum eine Richtlinie allein nicht reichtIn vielen Unternehmen wird KI genutzt, bevor jemand darüber entschieden hat. Beschäftigte formulieren E-Mails mit einem privaten Chat-Konto, lassen Verträge zusammenfassen oder übersetzen Kundenkorrespondenz über...
- Spracherkennung lokal und DSGVO-konform: Whisper, Voxtral und Parakeet im VergleichSpracherkennung ist eine der KI-Anwendungen mit dem klarsten Nutzen: Diktate werden zu Text, Besprechungen zu Protokollen, Telefonate zu durchsuchbaren Notizen. Gleichzeitig ist Audio besonders sensibel....
- RAG-Wissensdatenbank in der Behörde: Leitfaden für die öffentliche VerwaltungBehörden verwalten große, über Jahre gewachsene Bestände: Erlasse und Rundschreiben, Verfahrensanweisungen, Fachberichte, Gutachten, Stellungnahmen, Protokolle. Wer eine Regelung sucht, kennt oft den Inhalt, aber nicht...
- RAG und KI-Verordnung: wann ein RAG-System Hochrisiko-KI istWer eine RAG-Wissensdatenbank plant, stößt früh auf die Frage, ob das System unter die Hochrisiko-Regeln der KI-Verordnung fällt. Die kurze Antwort: in den meisten Fällen...
- Dokumente automatisch auslesen und prüfen mit KI: selbst gehostetSeit dem 1. Januar 2025 muss jedes inländische Unternehmen E-Rechnungen empfangen können. Ein Teil der Belege kommt damit als strukturiertes XML an und wird geparst...
- Langfuse self-hosted: LLM-Observability und KI-Logging für den EU AI ActWer KI in produktive Geschäftsprozesse bringt, steht schnell vor einer unbequemen Frage: Was passiert da eigentlich genau? Welcher Prompt ging an welches Modell, warum kam...
- Bleeding Llama (CVE-2026-7482): Warum selbst gehostete KI nicht automatisch sichere KI istDrei unauthentifizierte API-Calls. Kein Login, kein Exploit-Framework, keine Privilege Escalation. Drei POST-Requests an einen Standard-Port, und der Speicher der Maschine ist auf Reisen - mit...
- EU AI Act: Hochrisiko-Pflichten auf Dezember 2027 verschoben - was ab August 2026 trotzdem giltDie Hochrisiko-Pflichten des EU AI Act greifen nicht zum 2. August 2026. Eigenständige Hochrisiko-Systeme nach Anhang III haben jetzt bis zum 2. Dezember 2027 Zeit,...
- GPT-OSS 120B auf dem AI Cube: OpenAIs Open-Weight-Modell lokal betreibenOpenAI hat GPT-OSS 120B am 5. August 2025 als Open-Weight-Reasoning-Modell veröffentlicht. Durch die ab Werk verwendete MXFP4-Quantisierung positioniert OpenAI das Modell für eine einzelne GPU...
Bewertungen & Projekte
Was Kunden über die Zusammenarbeit sagen
Von der Wissensdatenbank mit KI-Assistent über die lokale KI-Integration bis zu Datenhoheit und laufendem Betrieb.
KI-Plattform
Wir waren auf der Suche nach einer sicheren, aber trotzdem einfach nutzbaren Alternative zu den großen amerikanischen Anbietern und sind auf WZ-IT gestoßen. WZ-IT hat uns bei der Auswahl der passenden Modelle beraten und die Anbindung für uns umgesetzt. Vorab konnten wir alles in Ruhe auf einer Testinstanz ausprobieren. Heute betreibt WZ-IT Open WebUI für uns auf unserer eigenen Domain, mit komfortablem Microsoft-Login und Open-Source-Modellen, die bei einem deutschen Anbieter gehostet sind. Unser Team kann damit produktiv mit KI arbeiten, ohne auf externe Tools oder Schatten-KI auszuweichen. Die Zusammenarbeit ist unkompliziert, Rückfragen werden schnell und verständlich beantwortet. Mit WZ-IT haben wir außerdem einen Partner an der Seite, mit dem wir weitere KI-Projekte angehen können.
Carl-Frederic KornHead of E-Commerce & Online Marketing, Krüger Dirndl GmbH
Wissensmanagement & KI
Das Wissen aus vielen Jahren Solarbranche steckte im Kopf unseres früheren Geschäftsführers und steckt bis heute in den Köpfen unserer Mitarbeitenden. Wir wollten es sichern, nicht als Ordner voller Notizen, sondern so, dass wir im Alltag Fragen stellen und belastbare Antworten bekommen. WZ-IT hat uns dabei von Anfang an beraten und verschiedene Ansätze und Wissensmanagementsysteme mit uns gegeneinander abgewogen, bevor wir uns entschieden haben. Umgesetzt wurde eine individuelle Wissensdatenbank mit KI-Assistent, die Gespräche, Notizen, Dokumentationen und Handbücher zusammenführt: von der Plattform über das Onboarding unseres Teams bis zur Begleitung im Betrieb. Gespräche werden transkribiert und Fakten extrahiert, wir prüfen und korrigieren alles selbst, bevor es gespeichert wird, denn wir wollen einer KI nicht blind vertrauen. Das System läuft in unserer eigenen Umgebung, die Daten bleiben bei uns. Überrascht hat uns, wie effizient das ging: WZ-IT hat bestehende Open-Source-Software genutzt und gezielt auf unsere Anforderungen erweitert, statt eine teure Eigenentwicklung von Grund auf zu verkaufen, wie es bei IT-Dienstleistern sonst oft üblich ist. Timo und Robin haben unser eigentliches Problem verstanden, die Wissenssicherung beim Generationswechsel, und es Schritt für Schritt umgesetzt: vom Proof of Concept über Aufbau und Validierung mit unseren eigenen Daten bis in den produktiven Betrieb, und dabei alles verständlich erklärt. Als Nächstes wollen wir das auf das Wissen unserer Mitarbeitenden ausweiten, damit auch das nicht an einzelnen Personen hängt.
Joshua von AmelnGeschäftsführer, solarwerkstatt berlin GmbH
Kundenstimmen ansehen
International
Ausgewählte Projekte
- LiveRemote-Access-Plattform für verteilte WasseraufbereitungsanlagenABCO Water Systems · Australien · Secure Access & OT
- 81%AWS-Migration mit deutlich geringeren laufenden KostenEVA Real Estate · VAE · Cloud-Exit & Infrastruktur
- 98%Neue Standorte in Minuten statt Stunden bereitstellennextGYM GmbH · Deutschland · Automatisierung & IoT
WZ-IT plant, entwickelt und betreibt Infrastruktur und Software für Kunden in Deutschland und international. Projekte setzen wir remote um und begleiten sie auch nach dem Go-live im laufenden Betrieb.
Anfrage
Betrieb Ihrer KI-Infrastruktur abstimmen
Nennen Sie den bestehenden oder geplanten Stack und welche Verantwortung WZ-IT übernehmen soll.
- Direkt mit Timo und Robin - kein Vertrieb, kein Sales-Pitch
- Fachliche Einschätzung Ihrer Situation
- Konkrete nächste Schritte für Infrastruktur, Software oder KI
Das Gespräch ist unverbindlich und kostenlos.
Die Beratung von WZ-IT zu unserer Azure-Migration war schon im Erstgespräch fachlich sehr fundiert und völlig unverbindlich - wir haben eine Menge mitgenommen.
Jakob ÖschlbergerInno7 GmbH
Die Beratung von WZ-IT zu unserer Azure-Migration war schon im Erstgespräch fachlich sehr fundiert und völlig unverbindlich - wir haben eine Menge mitgenommen.