Einrichtung & Konfiguration (optional)
Auf Wunsch: Installation der gewünschten LLMs (Llama, Qwen, Gemma, Mistral, DeepSeek, GPT-OSS), Einrichtung von Ollama oder vLLM als Modellserver, OpenWebUI als Web-Interface und optionale API-Endpunkte für Ihre Anwendungen.
LLM Hosting in Deutschland: Open-Source-LLMs auf dedizierter GPU betreiben
Sie wollen ein Sprachmodell selbst hosten, ohne Daten an Cloud-APIs zu geben und ohne eigenes Team für GPU, vLLM und Updates. Wir betreiben Open-Source-LLMs wie Qwen, gpt-oss oder Mistral auf dedizierten GPU-Servern in Deutschland, mit OpenAI-kompatibler API.
- Qwen · gpt-oss · Mistral
- OpenAI-kompatible API
- Ollama & vLLM
Warum lokal
Warum ein LLM selbst hosten? Gründe für den Betrieb in Deutschland
Volle Kontrolle über Ihre KI-Infrastruktur
Datenschutz & DSGVO
Für Modelle, Speicher und Verarbeitung können deutsche Standorte gewählt werden. Externe Integrationen, Fernzugriffe und Unterauftragnehmer werden dokumentiert, damit die konkrete Datenschutzbewertung nachvollziehbar bleibt.
Datensouveränität
Sie bestimmen Modelle, Schnittstellen und Datenflüsse. Nicht benötigte externe Modell-APIs können entfallen; aktivierte Integrationen und ausgehende Verbindungen werden transparent dokumentiert.
Compliance & Audits
Erfüllen Sie strenge Compliance-Anforderungen in regulierten Branchen wie Gesundheit, Finanzen oder öffentliche Verwaltung.
Kosteneffizienz
Keine versteckten API-Kosten, keine Überraschungen bei der Abrechnung. Planbare monatliche Fixkosten statt Pay-per-Token bei Cloud-Anbietern.
Performance & Latenz
Dedizierte GPU-Ressourcen ohne Sharing. Optimale Latenz für Ihre Anwendungen ohne Abhängigkeit von globalen Cloud-Diensten.
Anpassungsfähigkeit
Fine-Tuning und Anpassung Ihrer Modelle an Ihre spezifischen Anforderungen. Keine Einschränkungen durch API-Limits oder Vendor-Lock-ins.
Vergleich
LLM Hosting vs. Cloud-APIs
Warum eigenes Hosting oft die bessere Wahl ist
| Merkmal | Gehostet bei WZ-IT | Cloud-APIs (OpenAI, etc.) |
|---|---|---|
| Datenschutz | Hosting in Deutschland, auf DSGVO-Anforderungen ausgerichtet | Daten gehen an US-Anbieter |
| Kosten | Fixe monatliche Kosten | Variable Token-Preise, oft teurer |
| Kontrolle | Volle Kontrolle über Modelle | Abhängigkeit vom Anbieter |
| Anpassung | Fine-Tuning jederzeit möglich | Eingeschränkt oder teuer |
| Latenz | Optimal (Deutschland) | Variabel, abhängig von Region |
| Verfügbarkeit | Dedizierte Ressourcen, keine Rate-Limits | Rate-Limits, Ausfälle möglich |
Leistungsumfang
LLM Hosting mit Betrieb: was enthalten ist
Wir kümmern uns um alles - Sie nutzen einfach Ihre LLMs. Von der initialen Einrichtung bis zum täglichen Betrieb: Unser Managed LLM Hosting übernimmt alle technischen Aspekte.
Betrieb & Wartung
Wir überwachen Ihre LLM-Infrastruktur rund um die Uhr technisch, führen Systemupdates durch und optimieren die GPU-Performance. Wie schnell wir auf einen Alarm reagieren, richtet sich nach dem vereinbarten Service Level.
Support & Beratung
Unser Team unterstützt Sie bei der Modellauswahl, Integration in Ihre Anwendungen und Optimierung für Ihre spezifischen Anwendungsfälle. Priorisierter Support via E-Mail und optional per Telefon/Video.
Transparente Preise
Fixe monatliche Kosten ohne versteckte Gebühren, keine Pay-per-Token-Abrechnung. Server mit einer GPU sind monatlich kündbar, die Laufzeit der Mehr-GPU-Server steht im Angebot. Den konkreten Preis stimmen wir nach Konfiguration im Erstgespräch ab.
Modelle
Open-Source-LLMs für das Hosting: unterstützte Modelle
Eine Auswahl aktueller Open-Weight-Modelle, Stand Oktober 2026. Die Größen beziehen sich auf die Gewichte; Kontext und gleichzeitige Anfragen brauchen zusätzlichen Speicher.
gpt-oss-120b und gpt-oss-20b
OpenAIs offene Modelle unter Apache 2.0: 120b als Mixture-of-Experts mit 117B Parametern, davon 5,1B aktiv, und 128K Kontext. 120b passt auf eine 96-GB-Karte, 20b auf eine 24-GB-Karte.- Gewichte (MXFP4): rund 65 GB (120b), rund 14 GB (20b)
Gemma 4
Googles aktuelle Generation unter Apache 2.0, als 31B dichtes Modell oder als 26B Mixture-of-Experts mit 3,8B aktiven Parametern, jeweils mit 256K Kontext.- Gewichte: rund 62 GB (31B, BF16), rund 23 GB (31B, W4A16)
DeepSeek-V4-Flash
Großes Mixture-of-Experts-Modell unter MIT-Lizenz mit 284B Parametern, davon 13B aktiv, und bis zu 1M Token Kontext. Realistisch auf dem Server mit vier RTX PRO 6000 (384 GB).- Gewichte: rund 167 GB (FP4/FP8 gemischt)
Mistral Small 4
Europäisches Modell von Mistral AI unter Apache 2.0: 119B Parameter als Mixture-of-Experts, davon 6,5B aktiv, mit 256K Kontext. In NVFP4 passt es auf eine 96-GB-Karte.- Gewichte: rund 71 GB (NVFP4), rund 121 GB (FP8)
EuroLLM 22B
Europäisches Open-Weight-Modell unter Apache 2.0, auf europäische Sprachen ausgelegt: 22B Parameter dicht, 32K Kontext. Passt auf eine 96-GB-Karte.- Gewichte: rund 45 GB (BF16)
Qwen3.8-27B
Alibabas aktuelles dichtes Modell unter Apache 2.0 mit 27,8B Parametern und 262K Kontext, ein starker Allrounder für Text und Code. Für größere Aufgaben gibt es Qwen3.5-122B auf zwei GPUs.- Gewichte: rund 31 GB (FP8), rund 22 GB (NVFP4)
Modellseiten mit Lizenz, Größen und empfohlener Serverstufe:
Qwen Hosting in Deutschlandgpt-oss Hosting in DeutschlandGemma Hosting in DeutschlandMistral Hosting in DeutschlandDevstral Hosting in DeutschlandDeepSeek Hosting in DeutschlandLlama Hosting in DeutschlandRuntime
Wir unterstützen Ollama & vLLM
Ollama
- Einfache Installation und Bedienung
- OpenAI-kompatible API
- Automatisches Modellmanagement
Die einfachste Art, LLMs lokal zu betreiben. Perfekt für Entwicklung, Prototypen und kleine bis mittlere Produktionsworkloads.
vLLM
- Deutlich höherer Durchsatz bei hoher Last
- PagedAttention für effiziente Speicherverwaltung
- Continuous Batching für maximalen Throughput
High-Performance Inferenz-Engine für produktive Workloads. Optimiert für maximalen Durchsatz und minimale Latenz bei hoher Last.
Welches Framework ist das richtige für Sie? Das Managed GPU-Server-Paket ist auf vLLM ausgelegt, weil es viele gleichzeitige Anfragen effizient verarbeitet. Ollama eignet sich für einfache Anwendungsfälle, Entwicklung und moderate Last. Welches Framework zu Ihrem Einsatz passt, klären wir im Erstgespräch.
Infrastruktur
Infrastruktur-Anforderungen für LLM Hosting
Was benötigt man für professionelles LLM Hosting? Das Hosting von Large Language Models stellt besondere Anforderungen an die Infrastruktur. Wir sorgen dafür, dass alles optimal konfiguriert ist.
Hardware & GPU
LLMs benötigen GPUs mit ausreichend VRAM. Faustregel für die Gewichte: quantisiert (Q4) etwa ein halbes Gigabyte je Milliarde Parameter, in FP16 rund das Vierfache. Für Kontext und KV-Cache kommt je nach Kontextlänge und Parallelität noch einiges dazu - für Llama 3.1 70B planen wir deshalb rund 48 GB ein, für Gemma 3 27B rund 20 GB.
Arbeitsspeicher & Datenspeicher
Neben GPU-Speicher benötigen Sie ausreichend RAM (mindestens 64 GB) und schnellen NVMe-Speicher für Modelldateien und Caching. Die Modelldateien selbst belegen in FP16 rund 15 GB (7B) bis 150 GB (70B) auf der Platte; im quantisierten Betrieb entsprechend weniger.
Netzwerk & Bandbreite
Für produktive Anwendungen mit mehreren Nutzern ist eine stabile, schnelle Netzwerkverbindung essentiell. Unsere Server bieten Gigabit-Anbindung mit geringer Latenz innerhalb Deutschlands.
Software & Updates
Der Software-Stack inklusive CUDA-Treibern, vLLM als Modellserver, Open WebUI und Container-Laufzeit wird von uns installiert, konfiguriert und aktuell gehalten. Ollama richten wir auf Wunsch für Entwicklung und Tests ein.
Monitoring & Sicherheit
Professionelles Monitoring der GPU-Auslastung, Temperaturüberwachung und Sicherheitsupdates gehören zum Service. Automatisierte Backups sind optional zubuchbar.
Skalierung & Load Balancing
Bei wachsenden Anforderungen skalieren wir Ihre Infrastruktur horizontal (mehrere Server) oder vertikal (stärkere GPUs). Load-Balancing zwischen mehreren Instanzen ist möglich.
Mindestens empfohlene Serverstufe nach Modellgröße
Ausgangspunkt ist die Größe der Modellgewichte im gewählten Format. Dazu kommt Speicher für Kontext, gleichzeitige Anfragen und die Laufzeitumgebung.
| Gewichte bis etwa | Mindestens empfohlen | Beispiele (Stand Oktober 2026) |
|---|---|---|
| 19 GB | Managed GPU Server 24 | gpt-oss-20b (MXFP4, rund 14 GB) |
| 75 GB | Managed GPU Server 96 | Qwen3.8-27B (FP8, rund 31 GB), gpt-oss-120b (MXFP4, rund 65 GB), Mistral Small 4 (NVFP4, rund 71 GB) |
| 150 GB | Managed GPU Server 192 | Qwen3.5-122B (FP8, rund 127 GB), Mistral Small 4 (FP8, rund 121 GB) |
| 300 GB | Managed GPU Server 384 | DeepSeek-V4-Flash (rund 167 GB) |
Welche Stufe für Ihren Einsatz passt, hängt von Kontextlänge und gleichzeitigen Anfragen ab. Wir prüfen das vor dem Angebot. Der Server mit drei GPUs (288 GB) ist für mehrere Modelle nebeneinander gedacht.
Serverstufen und Preise ansehenPreis
LLM Hosting auf einem Managed GPU Server
Fixe monatliche Kosten ohne versteckte Gebühren, keine Pay-per-Token-Abrechnung. Server mit einer GPU sind monatlich kündbar, die Laufzeit der Mehr-GPU-Server steht im Angebot. Den konkreten Preis stimmen wir nach Konfiguration im Erstgespräch ab.
Managed GPU Server 24699 € netto / Monat
Was ist inklusive?
- Dedizierter GPU-Server in deutschem Rechenzentrum
- Rechenzentrum, Strom & Netzwerk
- 24/7 Monitoring
- Sicherheitsupdates & System-Wartung
- Auf DSGVO-Anforderungen ausgerichtete Infrastruktur; der Rechenzentrumsbetreiber ist nach ISO 27001 & BSI C5 zertifiziert
- Ollama/vLLM Installation (optional)
- Kostenloses Erstgespräch zur Modellauswahl
- Bereitstellung nach Abstimmung im Erstgespräch
Zahlung
- Überweisung
Alle Preise verstehen sich netto zuzüglich gesetzlicher Umsatzsteuer. Die Angebote richten sich an Unternehmen.
Verwandte Services
SchlüsselfertigKI-Plattform
Open WebUI mit gpt-oss, Qwen und Ministral, betrieben in Deutschland bei deutschen Anbietern, SSO und §203-Zusatzvereinbarung, ohne eigene GPU.
Ansehen →AI Server mit GPUGPU Server für KI
Unsere Hardware-Basis für LLM Hosting. Leistungsstarke GPUs für Inferenz & Fine-Tuning
Ansehen →LokalAI Cube
Lokale KI ohne Vendor Lock-in - AI Cube ab 7.990 € netto einmalig zuzüglich AI Cube Care ab 349,90 € netto / Monat.
Ansehen →Zielgruppen
Wer profitiert von LLM Hosting?
Typische Anwendungsfälle und Zielgruppen
Agenturen & Dienstleister
Bieten Sie Ihren Kunden KI-gestützte Services wie Content-Erstellung, SEO-Analysen oder Chatbots - mit eigener LLM-Infrastruktur statt teurer OpenAI-API-Kosten.
Forschung & Bildung
Universitäten, Forschungseinrichtungen und Bildungsträger nutzen eigene LLMs für wissenschaftliche Arbeiten, Studien und Lehre ohne Datenschutz-Bedenken.
Mittelständische Unternehmen
KMUs in Deutschland setzen LLMs für interne Wissensdatenbanken, Kundenservice-Automation, Code-Analyse oder Dokumenten-Klassifizierung ein.
Interner Chatbot mit RAG
Verknüpfen Sie Ihr LLM mit Ihren eigenen Dokumenten, Wikis oder Datenbanken. Mitarbeiter stellen Fragen in natürlicher Sprache und erhalten präzise Antworten aus Ihrem Wissensbestand.
Code-Assistenz
Entwicklerteams nutzen LLMs lokal für Code-Vervollständigung, Review und Dokumentation - ohne Quellcode an externe APIs zu senden.
Content-Generierung
Erstellen Sie Produktbeschreibungen, Marketing-Texte oder Social-Media-Content mit Ihrem eigenen LLM in Ihrer Corporate Language.
Dokumentenanalyse
Analysieren und klassifizieren Sie große Mengen an Dokumenten, Verträgen oder E-Mails automatisiert und auf DSGVO-Anforderungen ausgerichtet.
RAG (Retrieval-Augmented Generation)
Mit RAG verbinden Sie Ihr LLM mit externen Wissensquellen. Das Modell durchsucht Ihre Dokumente und generiert Antworten basierend auf tatsächlichen Fakten aus Ihrer Datenbasis. Ideal für Unternehmenswikis, Support-Datenbanken oder Forschungsarchive.
Interner KI-Assistent mit RAG
Einordnung
Was sind Large Language Models (LLMs)?
Large Language Models (LLM) sind KI-Modelle, die natürliche Sprache verstehen und generieren können. Für Unternehmen bieten sie enorme Möglichkeiten: von der Automatisierung der Kundenkommunikation über intelligente Dokumentenanalyse bis hin zu Coding-Assistenten und Wissensmanagement.
Mit unserem LLM Hosting Deutschland betreiben Sie diese leistungsstarken Modelle in Ihrer eigenen, auf DSGVO-Anforderungen ausgerichteten Infrastruktur - ohne Ihre sensiblen Daten an globale Cloud-Anbieter weitergeben zu müssen.
Ob gpt-oss, Qwen, Mistral oder andere offene Modelle - wir kümmern uns um Installation, Betrieb und Optimierung Ihrer LLM-Infrastruktur.
Häufig gestellte Fragen (FAQ)
Alles, was Sie über LLM Hosting wissen müssen
- Ja, wenn vLLM das Modell unterstützt und seine Lizenz den Betrieb durch uns erlaubt. Gängige Familien wie Qwen, Gemma, Mistral, DeepSeek und gpt-oss gehören dazu. Lizenz, Größe und passende GPU prüfen wir vor dem Angebot; beim Konvertieren oder Quantisieren eigener Modelle unterstützen wir Sie.
- Selbstverständlich. Sie können jederzeit auf eine leistungsstärkere GPU upgraden (z.B. von RTX PRO 4000 auf RTX PRO 6000) oder zusätzliche Server für Load-Balancing hinzufügen. Wir bieten sowohl vertikale als auch horizontale Skalierung an.
- Modelle, die vLLM unterstützt und deren Lizenz den Betrieb durch uns erlaubt, etwa gpt-oss, Qwen3.8 und Qwen3.5, Gemma 4, Mistral Small 4, DeepSeek-V4-Flash, EuroLLM und Llama 3.3. Die multimodalen Llama-4-Modelle schließt Metas Nutzungsrichtlinie für Unternehmen mit Sitz in der EU aus; diese betreiben wir deshalb nicht. Welches Modell auf welche GPU passt, prüfen wir vor dem Angebot. Stand: Oktober 2026.
- Das Managed GPU-Server-Paket nutzt vLLM auf einer RTX PRO 4000 Blackwell (24 GB) bzw. RTX PRO 6000 Blackwell (96 GB). Mit vLLM sind bei hoher Last deutlich höhere Durchsätze möglich; das vLLM-Projekt misst in eigenen Benchmarks bis zu 24x mehr Durchsatz gegenüber HuggingFace Transformers. Die exakte Performance hängt vom Modell, der Kontextlänge und der Anzahl gleichzeitiger Anfragen ab.
- Ja, sowohl Ollama als auch vLLM bieten OpenAI-kompatible APIs. Sie können Ihre Anwendungen einfach umstellen, indem Sie die API-URL ändern - der Code bleibt nahezu identisch. Zusätzlich gibt es native Client-Libraries für Python, JavaScript, Go und weitere Sprachen.
- Unser Monitoring erkennt Probleme meist, bevor sie Auswirkungen haben. Bei Störungen reagieren wir umgehend. Als Managed-Service-Kunde haben Sie priorisierten Support via E-Mail, optional auch Telefon-/Video-Support verfügbar.
- Ja, abhängig vom verfügbaren VRAM können Sie mehrere Modelle parallel laden oder zwischen ihnen wechseln. Ollama verwaltet das automatisch. Auf der Pro-Konfiguration mit 96 GB VRAM lassen sich zum Beispiel ein 27B- und ein 7B-Modell gleichzeitig geladen halten.
- Wir halten das System (OS, CUDA, Ollama/vLLM) aktuell und installieren Sicherheitsupdates zeitnah. Modellaktualisierungen erfolgen auf Wunsch - Sie entscheiden, wann Sie ein neues Modellrelease nutzen möchten.
- Ein Managed GPU Server mit einer GPU kostet 699 € netto / Monat (24 GB) oder 1.799 € netto / Monat (96 GB), jeweils zuzüglich einmaliger Einrichtung und monatlich kündbar. Server mit zwei bis vier GPUs bieten wir auf Anfrage an. Abgerechnet wird nicht nach Tokens; Modell, vLLM, Open WebUI und Betrieb sind enthalten.
- Sie brauchen eine GPU mit genug Speicher für Modellgewichte und Kontext, einen Modellserver wie vLLM, eine Oberfläche oder API für die Nutzer und jemanden, der Treiber, Updates und Monitoring übernimmt. Den Aufbau beschreibt unser Guide zum Open-Source-LLM-Stack; den Betrieb können Sie an uns abgeben.
- Der Betrieb in einem deutschen Rechenzentrum mit Auftragsverarbeitungsvertrag nimmt die schwierigen Punkte ab: kein Drittstaatentransfer und keine Daten an den Modellhersteller. Rechtsgrundlage, Transparenz und gegebenenfalls eine Datenschutz-Folgenabschätzung bleiben Ihre Aufgabe; wir liefern die technische und vertragliche Grundlage.
Wissensdatenbank
Vertiefende Guides zu diesem Thema
Guides
Verwandte Tutorials & Guides
- Open WebUI, LibreChat, AnythingLLM & Co. im Vergleich 2026Für KI-Chat im Unternehmen gibt es sechs verbreitete Open-Source-Plattformen: Open WebUI, LibreChat, AnythingLLM, LobeHub, Onyx und PrivateGPT. Sie lösen unterschiedliche Aufgaben, sehen aber auf den...
- Hetzner GPU-Server im Vergleich: GEX45, GEX63 und GEX131 (Stand Oktober 2026)Hetzner hat sein GPU-Sortiment im Herbst 2026 umgebaut: Am 1. September kam der GEX45, am 6. Oktober der GEX63, und der GEX44 ist nicht mehr...
- Förderung für IT- und Digitalisierungsprojekte in NRW 2026: was läuft, was ausgelaufen istWer 2026 ein IT- oder Digitalisierungsprojekt mit Fördergeld angehen will, findet viele Ratgeber, die noch Programme nennen, die es nicht mehr gibt. go-digital ist seit...
- LiteLLM-Sicherheitslücke GHSA-7hp6-4w63-5g45: Versionen prüfen und Gateway absichernAm 30. September 2026 hat BerriAI ein Sicherheitsadvisory für den LiteLLM-Proxy veröffentlicht: GHSA-7hp6-4w63-5g45. Ein angemeldeter Nutzer mit der Rolle internaluser kann sich damit zum proxyadmin...
- Schatten-KI im Unternehmen: warum eine Richtlinie allein nicht reichtIn vielen Unternehmen wird KI genutzt, bevor jemand darüber entschieden hat. Beschäftigte formulieren E-Mails mit einem privaten Chat-Konto, lassen Verträge zusammenfassen oder übersetzen Kundenkorrespondenz über...
- Spracherkennung lokal und DSGVO-konform: Whisper, Voxtral und Parakeet im VergleichSpracherkennung ist eine der KI-Anwendungen mit dem klarsten Nutzen: Diktate werden zu Text, Besprechungen zu Protokollen, Telefonate zu durchsuchbaren Notizen. Gleichzeitig ist Audio besonders sensibel....
- RAG-Wissensdatenbank in der Behörde: Leitfaden für die öffentliche VerwaltungBehörden verwalten große, über Jahre gewachsene Bestände: Erlasse und Rundschreiben, Verfahrensanweisungen, Fachberichte, Gutachten, Stellungnahmen, Protokolle. Wer eine Regelung sucht, kennt oft den Inhalt, aber nicht...
- RAG und KI-Verordnung: wann ein RAG-System Hochrisiko-KI istWer eine RAG-Wissensdatenbank plant, stößt früh auf die Frage, ob das System unter die Hochrisiko-Regeln der KI-Verordnung fällt. Die kurze Antwort: in den meisten Fällen...
- Dokumente automatisch auslesen und prüfen mit KI: selbst gehostetSeit dem 1. Januar 2025 muss jedes inländische Unternehmen E-Rechnungen empfangen können. Ein Teil der Belege kommt damit als strukturiertes XML an und wird geparst...
- Langfuse self-hosted: LLM-Observability und KI-Logging für den EU AI ActWer KI in produktive Geschäftsprozesse bringt, steht schnell vor einer unbequemen Frage: Was passiert da eigentlich genau? Welcher Prompt ging an welches Modell, warum kam...
- Bleeding Llama (CVE-2026-7482): Warum selbst gehostete KI nicht automatisch sichere KI istDrei unauthentifizierte API-Calls. Kein Login, kein Exploit-Framework, keine Privilege Escalation. Drei POST-Requests an einen Standard-Port, und der Speicher der Maschine ist auf Reisen - mit...
- EU AI Act: Hochrisiko-Pflichten auf Dezember 2027 verschoben - was ab August 2026 trotzdem giltDie Hochrisiko-Pflichten des EU AI Act greifen nicht zum 2. August 2026. Eigenständige Hochrisiko-Systeme nach Anhang III haben jetzt bis zum 2. Dezember 2027 Zeit,...
- GPT-OSS 120B auf dem AI Cube: OpenAIs Open-Weight-Modell lokal betreibenOpenAI hat GPT-OSS 120B am 5. August 2025 als Open-Weight-Reasoning-Modell veröffentlicht. Durch die ab Werk verwendete MXFP4-Quantisierung positioniert OpenAI das Modell für eine einzelne GPU...
Bewertungen & Projekte
Was Kunden über die Zusammenarbeit sagen
Von der Wissensdatenbank mit KI-Assistent über die lokale KI-Integration bis zu Datenhoheit und laufendem Betrieb.
KI-Plattform
Wir waren auf der Suche nach einer sicheren, aber trotzdem einfach nutzbaren Alternative zu den großen amerikanischen Anbietern und sind auf WZ-IT gestoßen. WZ-IT hat uns bei der Auswahl der passenden Modelle beraten und die Anbindung für uns umgesetzt. Vorab konnten wir alles in Ruhe auf einer Testinstanz ausprobieren. Heute betreibt WZ-IT Open WebUI für uns auf unserer eigenen Domain, mit komfortablem Microsoft-Login und Open-Source-Modellen, die bei einem deutschen Anbieter gehostet sind. Unser Team kann damit produktiv mit KI arbeiten, ohne auf externe Tools oder Schatten-KI auszuweichen. Die Zusammenarbeit ist unkompliziert, Rückfragen werden schnell und verständlich beantwortet. Mit WZ-IT haben wir außerdem einen Partner an der Seite, mit dem wir weitere KI-Projekte angehen können.
Carl-Frederic KornHead of E-Commerce & Online Marketing, Krüger Dirndl GmbH
Wissensmanagement & KI
Das Wissen aus vielen Jahren Solarbranche steckte im Kopf unseres früheren Geschäftsführers und steckt bis heute in den Köpfen unserer Mitarbeitenden. Wir wollten es sichern, nicht als Ordner voller Notizen, sondern so, dass wir im Alltag Fragen stellen und belastbare Antworten bekommen. WZ-IT hat uns dabei von Anfang an beraten und verschiedene Ansätze und Wissensmanagementsysteme mit uns gegeneinander abgewogen, bevor wir uns entschieden haben. Umgesetzt wurde eine individuelle Wissensdatenbank mit KI-Assistent, die Gespräche, Notizen, Dokumentationen und Handbücher zusammenführt: von der Plattform über das Onboarding unseres Teams bis zur Begleitung im Betrieb. Gespräche werden transkribiert und Fakten extrahiert, wir prüfen und korrigieren alles selbst, bevor es gespeichert wird, denn wir wollen einer KI nicht blind vertrauen. Das System läuft in unserer eigenen Umgebung, die Daten bleiben bei uns. Überrascht hat uns, wie effizient das ging: WZ-IT hat bestehende Open-Source-Software genutzt und gezielt auf unsere Anforderungen erweitert, statt eine teure Eigenentwicklung von Grund auf zu verkaufen, wie es bei IT-Dienstleistern sonst oft üblich ist. Timo und Robin haben unser eigentliches Problem verstanden, die Wissenssicherung beim Generationswechsel, und es Schritt für Schritt umgesetzt: vom Proof of Concept über Aufbau und Validierung mit unseren eigenen Daten bis in den produktiven Betrieb, und dabei alles verständlich erklärt. Als Nächstes wollen wir das auf das Wissen unserer Mitarbeitenden ausweiten, damit auch das nicht an einzelnen Personen hängt.
Joshua von AmelnGeschäftsführer, solarwerkstatt berlin GmbH
Kundenstimmen ansehen
International
Ausgewählte Projekte
- LiveRemote-Access-Plattform für verteilte WasseraufbereitungsanlagenABCO Water Systems · Australien · Secure Access & OT
- 81%AWS-Migration mit deutlich geringeren laufenden KostenEVA Real Estate · VAE · Cloud-Exit & Infrastruktur
- 98%Neue Standorte in Minuten statt Stunden bereitstellennextGYM GmbH · Deutschland · Automatisierung & IoT
WZ-IT plant, entwickelt und betreibt Infrastruktur und Software für Kunden in Deutschland und international. Projekte setzen wir remote um und begleiten sie auch nach dem Go-live im laufenden Betrieb.
Anfrage
LLM Hosting technisch einordnen lassen
Beschreiben Sie Modelle, Zugriff und Datenquellen. Wir leiten daraus Infrastruktur und Betriebsumfang ab.
- Direkt mit Timo und Robin - kein Vertrieb, kein Sales-Pitch
- Fachliche Einschätzung Ihrer Situation
- Konkrete nächste Schritte für Infrastruktur, Software oder KI
Das Gespräch ist unverbindlich und kostenlos.
Die Beratung von WZ-IT zu unserer Azure-Migration war schon im Erstgespräch fachlich sehr fundiert und völlig unverbindlich - wir haben eine Menge mitgenommen.
Jakob ÖschlbergerInno7 GmbH
Die Beratung von WZ-IT zu unserer Azure-Migration war schon im Erstgespräch fachlich sehr fundiert und völlig unverbindlich - wir haben eine Menge mitgenommen.