XWiki KI einrichten: LLM Application mit lokalem Modell und RAG

XWiki mit KI-Suche über eigene Inhalte? WZ-IT betreibt XWiki und richtet die LLM Application mit einem Modell auf eigener Hardware oder einem Managed GPU-Server ein, siehe XWiki Managed Hosting und KI-Lösungen. Termin vereinbaren

XWiki bringt von Haus aus keine KI mit. Wer im Wiki einen Chat mit Quellenangaben, eine Schreibhilfe im Editor oder eine semantische Suche über die eigenen Seiten will, installiert die LLM Application aus dem Projekt xwiki-contrib und das zugehörige Index for the LLM Application. Zusammen ergeben sie ein RAG-System innerhalb von XWiki: Seiten werden in Abschnitte zerlegt, als Vektoren in Solr gespeichert und bei jeder Frage als Kontext an das Sprachmodell übergeben.

Deutschsprachige Anleitungen dazu gibt es kaum, und die offizielle Extension-Seite nennt teils veraltete Voraussetzungen. Dieser Beitrag beschreibt den Stand der Version 0.10 vom 18. September 2026: Voraussetzungen, Installation, Anbindung an Ollama oder vLLM, Indexierung, Rechte und die Grenzen der Erweiterung. Alle Konfigurationsschritte folgen der Dokumentation auf extensions.xwiki.org und dem Quellcode auf GitHub. Stand September 2026.

Inhaltsverzeichnis

1. Was die LLM Application ist
2. Versionsstand und Voraussetzungen
3. Architektur: wo Modell, Index und Rechte liegen
4. Installation über den Extension Manager
5. Lokales Modell anbinden: Ollama und vLLM
6. Wiki-Inhalte indexieren: Collections und RAG
7. Rechte: was der Chat sehen darf
8. MCP-Server und externe Einbindung
9. Grenzen und bekannte Probleme
10. Unser Vorgehen bei WZ-IT
11. Weiterführende Guides

Was die LLM Application ist

Das Projekt „LLM" bündelt mehrere Erweiterungen, die gemeinsam versioniert werden (Projektseite LLM). Entwickelt wird es unter anderem von Ludovic Dubost und Michael Hamann, Teile der Indexierung wurden über NGI Search im Projekt WAISE gefördert (WAISE-Proposal).

Installationszahlen laut extensions.xwiki.org, Stand September 2026. Alle Erweiterungen stehen unter der GNU Lesser General Public License 2.1 und sind als BETA gekennzeichnet. Die Dokumentation formuliert es direkt: Unerwartetes Verhalten ist möglich.

Die Funktionen der LLM Application im Überblick:

• Chat mit Auswahl zwischen den freigegebenen Modellen, Temperatur und Systemprompt in den erweiterten Einstellungen.
• Quick Tasks aus einer Prompt-Datenbank, etwa Zusammenfassen oder Übersetzen. Eigene Prompts lassen sich mit Titel, System- und Nutzerprompt und Temperatur anlegen.
• Übernahme in die Seite: Antworten lassen sich im Editor an der Cursorposition einfügen oder in die Zwischenablage kopieren.
• Kontext aus dem Index, sobald das Index for the LLM Application installiert und einem Modell mindestens eine Collection zugeordnet ist.

Versionsstand und Voraussetzungen

Die Versionen der letzten Monate laut Jira-Projekt LLMAI und den Tags im GitHub-Repository:

Wer 0.8 oder 0.9 einsetzt und mehrere Wikis in einer Farm betreibt, sollte wegen LLMAI-164 auf 0.10 aktualisieren.

Die Kompatibilitätsangabe „16.2.0 and above" auf der Seite der LLM Application ist für aktuelle Versionen überholt. Maßgeblich ist das README mit „Minimal XWiki version supported: XWiki 17.4.0". Eine Installation auf XWiki 16.x bedeutet vor der KI-Einführung also ein Plattform-Upgrade.

Architektur: wo Modell, Index und Rechte liegen

Die LLM Application ist eine Vermittlungsschicht. XWiki selbst führt keine Chat-Modelle aus, sondern leitet Anfragen an einen Inferenzserver weiter und stellt dafür eine eigene OpenAI-kompatible REST-API bereit (/rest/wikis/<wiki>/aiLLM/v1/chat/completions und /v1/models).

Drei Details aus dem Quellcode von Version 0.10 sind für die Planung wichtig (application-ai-llm auf GitHub):

1. Feste Vektorlänge. Der Solr-Core legt das Vektorfeld mit 1.024 Dimensionen an. Embeddings werden vor dem Speichern auf genau diese Länge gebracht: längere abgeschnitten, kürzere mit Nullen aufgefüllt. Ein Modell mit 1.024 Dimensionen passt ohne Verlust.
2. Hybride Suche ohne Reranking. Seit 0.7 laufen Vektorsuche und Stichwortsuche parallel. Die Ergebnisse werden aneinandergehängt und doppelte Abschnitte entfernt, ohne gemeinsame Rangfolge und ohne Reranker. Wie sich das von Reciprocal Rank Fusion und Cross-Encodern unterscheidet, erklärt der Artikel zu Hybrid Search und Reranking.
3. Rechte nach der Suche. Die Rechteprüfung filtert die bereits gefundenen Abschnitte. Fallen viele Treffer heraus, erhält das Modell entsprechend weniger Kontext.

Installation über den Extension Manager

Die Installation folgt dem üblichen XWiki-Weg (LLM Application, Prerequisites & Installation Instructions):

1. Mit einem Konto mit Administrationsrechten anmelden.
2. Im Extension Manager nach „LLM Application" suchen und installieren. Abhängigkeiten wie LLM Models API und Chat WebJar werden mitinstalliert.
3. Für RAG zusätzlich „Index for the LLM Application" installieren.
4. Nur wenn Embeddings im XWiki-Prozess berechnet werden sollen: „LLM Internal Inference Server" installieren.
5. XWiki neu starten. Ohne Neustart bleibt die Modellliste leer, das ist der bekannte Fehler XWIKI-21887, der im September 2026 noch offen ist.

Ohne Internetzugang des XWiki-Servers funktioniert der Extension Manager nicht. Dann bleibt der manuelle Weg: XAR-Datei herunterladen, über Administration und Import einspielen und alle abhängigen Erweiterungen einzeln nachinstallieren. Für Installationen in abgeschotteten Netzen ist das ein eigener Arbeitsschritt, der bei jedem Update wiederkehrt.

Nach der Installation erscheint „LLM Application" im Anwendungspanel. Im Editor öffnet eine Schaltfläche in der Werkzeugleiste den Chat. Die Schaltfläche nutzt dasselbe Symbol wie „Einfügen", eine eigene Ikone gibt es laut Dokumentation noch nicht.

Lokales Modell anbinden: Ollama und vLLM

Die Konfiguration hat zwei Ebenen: Server und Modelle. Ein Server beschreibt den Endpunkt, ein Modell die konkrete Freigabe für Nutzer.

Server anlegen (Administration, Konfiguration der LLM Application):

Typische Werte für das URL-Präfix:

Der häufigste Fehler bei Ollama ist das fehlende /v1/. Ollama stellt die OpenAI-kompatible API unter /v1/ bereit, nicht im Wurzelpfad (XWiki-Forum). Den Inferenzserver muss der XWiki-Server erreichen, nicht der Browser der Nutzer: Alle Anfragen laufen über XWiki.

Modelle anlegen (unterhalb des Chats in der LLM Application):

Die LLM Application übernimmt Modelle nicht automatisch vom Server. Das ist Absicht: Admins sollen nur freigegebene Modelle anbieten und dasselbe Modell mit unterschiedlichen Collections unter verschiedenen Namen bereitstellen können (XWiki-Forum). Sinnvoll sind sprechende Namen wie „Handbuch IT, mit Quellen" statt der technischen Modell-ID.

Welcher Inferenzserver passt, hängt von Nutzerzahl und Hardware ab. Ollama eignet sich für den Einstieg, vLLM für viele parallele Anfragen; der Vergleich steht im Beitrag vLLM, Ollama oder llama.cpp. Wie viel Grafikspeicher ein Modell braucht, erklärt der Artikel zum VRAM-Sizing.

Wiki-Inhalte indexieren: Collections und RAG

Eine Collection ist ein abgegrenzter Wissensbereich mit eigenem Embedding-Modell, eigenen Chunking-Parametern und eigener Rechteprüfung (Index for the LLM Application). Die Übersicht der Collections ist für Admins am unteren Rand der LLM Application verlinkt.

Chunking. Die Methode maxChars sucht innerhalb der maximalen Länge nacheinander nach Überschrift, Leerzeile, Zeilenumbruch, Satzende und Leerzeichen und trennt an der ersten passenden Stelle. Ein Abschnitt kann dabei bis auf die halbe Maximalgröße schrumpfen. Welche Größen für deutsche Texte mit langen Sätzen und Tabellen tragen, beschreibt der Artikel zu Chunking-Strategien. Die indexierten Abschnitte lassen sich in einer Live-Data-Tabelle der Collection prüfen, samt Fehlermeldungen beim Embedding.

Anhänge. Dokumente im internen Store können Anhänge haben, deren Text über Apache Tika extrahiert wird. Gescannte PDFs ohne Textebene liefern dabei keinen Inhalt; eine OCR-Stufe gehört nicht zur Erweiterung.

Embedding-Modell. Wegen der festen Vektorlänge von 1.024 passen Modelle mit genau dieser Dimension ohne Verlust:

Für Modelle wie multilingual-e5 hat die Modellkonfiguration die Felder „Embedding Index Prefix" und „Embedding Query Prefix". Ein Vergleich weiterer Modelle für deutsche Texte steht im Beitrag Embedding-Modelle für Deutsch.

Wer das Embedding-Modell oder die Chunking-Parameter ändert, muss die Collection neu indexieren. Ohne Neuindexierung gelten geänderte Chunking-Werte erst, wenn ein Dokument das nächste Mal bearbeitet wird. Im Forum berichten Anwender außerdem von Fehlern beim Embedding einzelner Modelle über Ollama (XWiki-Forum); vor der vollständigen Indexierung lohnt ein Test mit einem kleinen Bereich.

Rechte: was der Chat sehen darf

Die Dokumentation des Index ist hier eindeutig: Bei der Abfrage werden die regulären XWiki-Rechte nicht geprüft. Zugriff wird auf zwei Ebenen gesteuert, über die Collection und über eine Rechteprüfmethode je Dokument.

Bei external sendet XWiki die Dokument-IDs, den XWiki-Benutzernamen und, falls vorhanden, LDAP-Kennung, OIDC-Konten und JWT-Identitäten. Fehlende Werte oder Fehler werten als „kein Zugriff".

Für die Praxis folgt daraus:

• Collections nach Zielgruppen schneiden. Eine Collection für das gesamte Wiki mit Methode public gibt jedem Berechtigten der Collection alle Inhalte als Kontext, auch aus Bereichen, die er im Wiki nicht öffnen darf.
• Für Wiki-Bereiche xwiki wählen. Nur diese Methode spiegelt die Seitenrechte.
• Embedding-Modelle für beide Seiten freigeben. Die Gruppen des Embedding-Modells müssen sowohl die Nutzer enthalten, deren Änderungen indexiert werden, als auch die Nutzer, die im Chat fragen.
• Gäste nur bewusst. „Allow guests" auf Modellen und Collections öffnet den Zugriff ohne Anmeldung; bei API-Modellen entstehen dabei Kosten.

Warum Rechte nie über den Prompt, sondern im Retrieval durchgesetzt werden müssen, erklärt der Artikel Berechtigungen in RAG-Systemen.

MCP-Server und externe Einbindung

MCP-Server. Seit Version 0.8 enthält das Projekt einen Server für das Model Context Protocol, seit 0.9 mit Administrationsoberfläche. Er macht Wiki-Inhalte für KI-Agenten und andere MCP-fähige Clients zugänglich. Laut Quellcode von Version 0.10 gilt:

Eine eigene Dokumentationsseite für den MCP-Server gibt es auf extensions.xwiki.org im September 2026 noch nicht. Wer die LLM Application installiert, sollte die MCP-Konfiguration deshalb aktiv prüfen und den Endpunkt abschalten, wenn er nicht gebraucht wird. Wie Freigaben für schreibende Agenten gestaltet werden, beschreibt der Artikel KI-Agenten: Rechte und Freigaben.

Chat in anderen Anwendungen. Das Chat WebJar liefert ein Widget, das sich per Script-Tag in andere Webanwendungen einbinden lässt. Für die Anmeldung externer Nutzer gibt es den Token-Authenticator: Die Anwendung signiert ein JWT mit einem Ed25519-Schlüssel, XWiki legt den Nutzer an oder aktualisiert ihn und übernimmt Gruppen aus dem Token. Die Dokumentation empfiehlt ein eindeutiges Gruppenpräfix, damit eine externe Anwendung keine Gruppen wie XWikiAdminGroup setzen kann (Token-based authentication).

Grenzen und bekannte Probleme

Für ein Wiki, in dem Mitarbeitende gezielt in Handbüchern und Richtlinien suchen, reicht dieser Funktionsumfang oft aus, wenn Collections und Rechte sauber geschnitten sind. Wer Inhalte aus mehreren Systemen zusammenführt, Reranking braucht oder die Antwortqualität systematisch messen will, setzt eine separate RAG-Schicht neben das Wiki. Wie solche Messungen aufgebaut werden, steht im Artikel RAG-Qualität messen.

Unser Vorgehen bei WZ-IT

Wir richten die LLM Application als Projekt mit festem Ablauf ein, auf Ihrer Infrastruktur oder in einer von uns betriebenen Umgebung in Deutschland. Support, Beratung und Implementierung durch WZ-IT.

1. Bestandsaufnahme. XWiki-Version, Datenbank, Solr, Authentifizierung und Rechtestruktur. Liegt die Version unter 17.4.0, planen wir das Plattform-Upgrade vorab.
2. Modellbetrieb festlegen. Ein lokales Modell auf dem AI Cube im eigenen Netzwerk, auf einem Managed GPU-Server von WZ-IT mit NVIDIA RTX PRO 4000 Blackwell (24 GB) oder RTX PRO 6000 Blackwell (96 GB), oder eine europäische Modell-API. Den Inferenzserver betreiben wir mit vLLM oder Ollama.
3. Collections und Rechte. Zuschnitt nach Zielgruppen, Rechteprüfmethode passend zu Ihrer Berechtigungsstruktur, Embedding-Modell für deutsche Inhalte, Prüfung der MCP-Konfiguration.
4. Antwortqualität prüfen. Referenzfragen aus dem Fachbereich, Prüfung der Quellen und Nachschärfen von Chunking und Kontextprompt. Als abgegrenztes Projekt bieten wir das als RAG Proof of Value an.
5. Betrieb auf Wunsch. Updates von XWiki und Erweiterung, Monitoring und Backups als XWiki Managed Hosting. Reicht der Funktionsumfang der LLM Application nicht, bauen wir einen internen KI-Assistenten, der XWiki als eine von mehreren Quellen anbindet.

Weiterführende Guides

• Atlassian Rovo Alternative self-hosted, Wiki und KI-Schicht ohne Atlassian Cloud.
• Onyx self-hosted: Installation und Vergleich, eine eigenständige KI-Suche über mehrere Quellen.
• Embedding-Modelle für Deutsch, Dimensionen, Lizenzen und Betrieb im Vergleich.
• BookStack, Wiki.js, XWiki oder Docmost, die Wiki-Auswahl vor der KI-Frage.
• Was ist RAG?, die Grundlagen von Retrieval-Augmented Generation.
• KI-Lösungen, der Hub mit allen Betriebswegen für Modelle.

XWiki-Inhalte mit KI durchsuchbar machen? Wir prüfen Ihre Installation, binden ein Modell auf eigener Hardware oder einem Managed GPU-Server an und schneiden Collections und Rechte passend zu Ihrem Wiki. Termin vereinbaren

Quellen

• XWiki Extensions, Projekt LLM
• XWiki Extensions, LLM Application
• XWiki Extensions, Index for the LLM Application
• XWiki Extensions, LLM Internal Inference Server
• XWiki Extensions, Token-based authentication for the LLM Application
• XWiki Extensions, LLM Chat WebJar
• GitHub, xwiki-contrib/application-ai-llm
• XWiki Jira, Projekt LLMAI
• XWiki Jira, LLMAI-164: keywordSearch is missing the wiki filter
• XWiki Jira, LLMAI-137: HTTP/2-Upgrade bei LM Studio
• XWiki Jira, XWIKI-21887
• XWiki-Forum, Modelle aus Ollama werden nicht automatisch geladen
• XWiki-Forum, Konfiguration der LLM Application mit Ollama
• XWiki-Forum, Fehler beim Indexieren mit Ollama-Embeddings
• XWiki Design, WAISE-Proposal
• Ollama, OpenAI compatibility
• vLLM, OpenAI-compatible server
• Hugging Face, BAAI/bge-m3
• Hugging Face, intfloat/multilingual-e5-large
• Hugging Face, sentence-transformers/all-MiniLM-L6-v2