Welches LLM selbst hosten? Modelle und Lizenzen

Das passende Modell und die Hardware dazu finden lassen? WZ-IT plant und betreibt lokale KI - von der Modell- und Lizenzwahl über GPU-Server bis zum Betrieb, DSGVO-konform aus einer Hand. GPU-Server ansehen

„Welches LLM soll ich nehmen?" ist die erste Frage beim Aufbau lokaler KI - und die falsch gestellte. Es gibt kein pauschal bestes Modell, sondern eines, das zu Anwendungsfall, Hardware und Lizenzanforderung passt. Dieser Artikel zeigt, wie man diese Wahl trifft: nach Größe, nach Lizenz und nach Fähigkeit. Stand Juli 2026.

Inhaltsverzeichnis

• Nicht "das beste" Modell, sondern das passende
• Modellgröße nach Anwendungsfall
• Die Lizenz entscheidet mit
• Offene Modellfamilien im Überblick
• Wie man das Modell auswählt

Nicht "das beste" Modell, sondern das passende

Ranglisten und Benchmarks verleiten dazu, immer das größte, neueste Modell wählen zu wollen. Für den produktiven Betrieb ist das selten die richtige Entscheidung. Ein Modell, das eine klar umrissene Aufgabe zuverlässig löst und auf der vorhandenen GPU läuft, ist wertvoller als ein Spitzenmodell, das die Hardware sprengt oder dessen Lizenz den Einsatz einschränkt.

Die Wahl fällt entlang von drei Achsen: Größe (was die Aufgabe braucht und die Hardware trägt), Lizenz (was der Unternehmenseinsatz erlaubt) und Fähigkeit (wie gut das Modell die konkrete Aufgabe erledigt).

Modellgröße nach Anwendungsfall

Die Parameterzahl ist der wichtigste Hebel für Hardware-Bedarf und Fähigkeit. Die Faustregel: so groß wie nötig, nicht so groß wie möglich.

• Kleinere Modelle (einstelliger Milliarden-Bereich) reichen für klar umrissene Aufgaben - Klassifikation, einfache Zusammenfassungen, strukturierte Extraktion - und laufen auf bescheidener Hardware.
• Mittlere Modelle decken einen breiten Alltag ab: Wissensabruf per RAG, Entwürfe, Assistenzfunktionen.
• Große Modelle bringen die breitesten Fähigkeiten, verlangen aber deutlich mehr GPU-Speicher und rechnen langsamer.

Moderne Modelle nutzen zunehmend eine Mixture-of-Experts-Architektur, bei der pro Anfrage nur ein Teil der Parameter aktiv ist - das entkoppelt die nominelle Größe etwas vom Rechenaufwand. Wie viel VRAM eine bestimmte Größe konkret braucht, zeigt GPU und VRAM dimensionieren.

Die Lizenz entscheidet mit

Ein oft übersehener Punkt: Nicht jedes „offene" Modell ist gleich frei nutzbar. Die Lizenz bestimmt, was im Unternehmen erlaubt ist.

• Apache 2.0 und MIT sind permissiv: kommerzielle Nutzung, Feinabstimmung und Weitergabe ohne Einschränkung. Modellfamilien wie Qwen und Mistral (Apache 2.0) oder DeepSeek (MIT) fallen hierunter.
• Metas Llama-Lizenz erlaubt kommerzielle Nutzung, enthält aber Einschränkungen - unter anderem eine Nutzerobergrenze und für die EU relevante Nutzungsbeschränkungen bei bestimmten Funktionen.

Für souveräne, unkomplizierte Nutzung im europäischen Unternehmenskontext sind permissiv lizenzierte Modelle die sichere Wahl. Die Lizenz gehört deshalb genauso in die Auswahl wie die Fähigkeit.

Offene Modellfamilien im Überblick

Statt einzelner, schnell veralteter Versionsnummern lohnt der Blick auf die Familien, die kontinuierlich weiterentwickelt werden:

• Qwen - breites Modellspektrum unter Apache 2.0, stark bei mehrsprachigen und allgemeinen Aufgaben.
• Mistral - europäische Herkunft, aktuelle Modelle unter Apache 2.0.
• DeepSeek - MIT-lizenziert, stark bei Reasoning und Code.
• Llama - sehr verbreitet und gut unterstützt, aber mit den genannten Lizenz-Einschränkungen.

Innerhalb jeder Familie gibt es Größen für unterschiedliche Anwendungsfälle. Die Auswahl beginnt also bei der Familie und Lizenz und verfeinert sich über die Größe.

Wie man das Modell auswählt

Ein pragmatischer Weg in vier Schritten:

1. Anwendungsfall schärfen - was genau soll das Modell tun, und wie gut muss es das können?
2. Lizenz festlegen - für den europäischen Unternehmenseinsatz permissive Lizenzen bevorzugen.
3. Größe an der Hardware ausrichten - die größte Modellgröße wählen, die zuverlässig auf die vorhandene GPU passt (siehe VRAM-Dimensionierung).
4. Testen und vergleichen - zwei bis drei Kandidaten an echten Aufgaben messen, statt Benchmarks zu vertrauen.

Und es muss nicht bei einem Modell bleiben: Über ein Gateway wie LiteLLM lassen sich mehrere Modelle kombinieren - ein kleines für einfache, ein größeres für anspruchsvolle Aufgaben. Wo das Modell im Gesamtbild sitzt, zeigt Was ist lokale KI?.