LibreChat oder AnythingLLM in Deutschland betreiben lassen? WZ-IT übernimmt Hosting und Betrieb für LibreChat und AnythingLLM. Teams mit Berufsgeheimnis finden zusätzlich die KI-Plattform. Erstgespräch vereinbaren
LibreChat und AnythingLLM sind zwei selbst betriebene Chat-Oberflächen für Sprachmodelle mit Wissensbasis. Beide Repositories stehen unter der MIT-Lizenz, unterscheiden sich aber bei Betriebsform, Anmeldung, Rechten und Hersteller-Angebot deutlich. Dieser Beitrag vergleicht beide nach den Kriterien, die im Betrieb zählen. Alle Angaben stammen aus GitHub-API, Lizenzdateien, Herstellerdokumentation und dem Quellcode von AnythingLLM mit Stand 21. Oktober 2026.
Für den Vergleich mit Open WebUI gibt es Open WebUI vs. LibreChat und Open WebUI vs. AnythingLLM, für den Überblick Open-Source-KI-Chat-Plattformen im Vergleich.
Inhaltsverzeichnis
- Kurz beantwortet
- Basisdaten im Überblick
- Lizenz
- Betrieb und Architektur
- Einzelplatz und Mehrbenutzerbetrieb
- Anmeldung, SSO und Provisionierung
- Rechte, Gruppen und Protokolle
- Wissensbasis und RAG
- Modelle und Anbieter
- Agenten, MCP und Code
- Telemetrie und Datenfluss
- Sicherheitsmeldungen der letzten zwölf Monate
- Hersteller, Support und Kosten
- Welche Plattform für welchen Einsatz
- Verbreitete Irrtümer
- Stand und Methodik
- Unser Vorgehen bei WZ-IT
- Weiterführende Guides
- Quellen
Kurz beantwortet
| LibreChat | AnythingLLM | |
|---|---|---|
| Lizenz | MIT, keine Zusatzklauseln | MIT für Repository und Docker-Version, keine Zusatzklauseln; Desktop-App mit eigenen Nutzungsbedingungen |
| Betriebsform | Mehrbenutzer-Webdienst, Docker Compose | Desktop-App oder ein Docker-Container; Mehrbenutzer-Modus nur mit Docker, nicht umkehrbar |
| Datenhaltung | MongoDB (Pflicht), Meilisearch, RAG-Dienst mit PostgreSQL und pgvector | SQLite und LanceDB eingebettet, keine Pflicht-Zusatzdienste |
| Anmeldung | OAuth/OIDC, SAML, LDAP; kein SCIM in der Doku | lokale Konten, Einladungen, Simple SSO Passthrough; OIDC, LDAP, SAML in der Doku nicht gefunden |
| Rechte | Rollen, Gruppen, Ressourcen-ACLs | Rollen Admin, Manager, Default; Zugriff über Workspaces; keine Gruppen dokumentiert |
| Wissensbasis | RAG-Dienst mit pgvector; SharePoint und OneDrive | Workspaces, 9 Vektordatenbanken, 7 Konnektoren laut Quellcode |
| Agenten und MCP | Agent Builder, Marketplace, MCP-Client (stdio, SSE, Streamable HTTP, WebSocket) | @agent mit Skills, No-Code Agent Flows, MCP-Client (nicht in der Hersteller-Cloud) |
| Telemetrie | Herstellertelemetrie in der Doku nicht vorgesehen | standardmäßig an (PostHog), abschaltbar |
| Hersteller | ClickHouse (Übernahme am 04.11.2025 angekündigt) | Mintplex Labs Inc. |
| Hersteller-Angebot | kein öffentliches Enterprise- oder Support-Angebot | Cloud Basic USD 50, Pro USD 99 pro Monat, Enterprise auf Anfrage |
| Advisories (12 Monate) | 28 | 23 |
Faustregel: LibreChat für den Mehrbenutzerbetrieb mit OIDC, SAML oder LDAP, Gruppenrechten und Agenten mit MCP. AnythingLLM für den Einzelplatz und für Teams mit lokalen Konten in einem einzelnen Container, mit Workspaces und Dokumentquellen.
Basisdaten im Überblick
| LibreChat | AnythingLLM | |
|---|---|---|
| Repository | LibreChat-AI/LibreChat | Mintplex-Labs/anything-llm |
| Neueste Version | 0.8.8 (01.10.2026) | 1.18.0 (13.10.2026) |
| GitHub-Sterne | rund 46.100 | rund 67.400 |
| Archiviert | nein | nein |
| Letzter Push | 21.10.2026 | 21.10.2026 |
| Pre-release-Kennzeichnung | alle 98 Releases | Version 1.18.0 ohne Kennzeichnung |
| Hersteller | ClickHouse, Inc. (Übernahme am 04.11.2025 angekündigt) | Mintplex Labs Inc. |
| Desktop-App | nicht vorhanden | ja (Mac, Windows, Linux), ausgelegt als "single-player" |
GitHub kennzeichnet alle 98 Releases von LibreChat als Pre-release; als aktuelle Version gilt der jüngste Nicht-RC-Tag 0.8.8. Die drei jüngsten Versionen erschienen am 01.06.2026 (0.8.6), 24.06.2026 (0.8.7) und 01.10.2026 (0.8.8). Das Repository von LibreChat liegt seit Herbst 2026 unter der Organisation LibreChat-AI, die frühere Adresse danny-avila/LibreChat leitet weiter. AnythingLLM nutzt master als Standard-Branch und ist nicht umbenannt.
Lizenz
LibreChat steht unter der MIT-Lizenz. Die Datei enthält nur den Standardtext, ohne Branding-Auflage und ohne Nutzergrenze, und ist seit November 2023 bis auf die Jahreszahl unverändert; als Rechteinhaber steht im Text lediglich "LibreChat", eine Zuordnung zu ClickHouse enthält die Datei nicht. Zwei Einschränkungen betreffen Begleitkomponenten: Das Admin Panel liegt in einem eigenen Repository unter AGPL-3.0 und ist in den offiziellen Compose-Dateien enthalten, der Code-Interpreter-Dienst steht unter Apache 2.0. Die package.json-Dateien tragen überwiegend die Lizenzangabe ISC (packages/data-schemas: MIT), maßgeblich ist der Text der LICENSE-Datei.
Das Repository von AnythingLLM steht ebenfalls unter der MIT-Lizenz, Rechteinhaber ist Mintplex Labs Inc. Die Datei umfasst 20 Zeilen ohne Zusatzklauseln, Branding-Auflage oder Nutzergrenze. Im Dateibaum des Repositorys (1.573 Dateien) gibt es kein ee- oder enterprise-Verzeichnis. Das Dokument TERMS_SELF_HOSTED.md mit Stand März 2026 schreibt: "The AnythingLLM core is provided under the MIT License." Service-Level-Vereinbarungen für Self-Hosting gibt es nur über eine separate Enterprise-Vereinbarung. Die Desktop-App unterliegt dagegen eigenen Nutzungsbedingungen (Version 14.07.2025): Nutzung nur für persönliche und interne Geschäftszwecke, keine Weitergabe, keine abgeleiteten Werke und kein Betrieb als SaaS. Die Docs-Seite hält fest, dass diese Bedingungen nur für die Desktop-App gelten und alle anderen Produkte unter MIT stehen. Kostenpflichtig ist daneben AnythingLLM Pro, ein Abonnement ausschließlich für die Desktop-App ab Version 1.15.0 (Windows und macOS), das die täglichen Nutzungsgrenzen der "Magic"-Funktionen aufhebt. Ein Preis steht in der Dokumentation nicht.
| LibreChat | AnythingLLM | |
|---|---|---|
| Lizenz | MIT | MIT für Repository, Quellcode und Docker-Version |
| Rechteinhaber laut Lizenztext | "LibreChat" | Mintplex Labs Inc. |
| Branding-Auflage, Nutzergrenze | keine | keine |
| Enterprise-Verzeichnis im Repository | nicht gefunden | nicht gefunden |
| Abweichende Lizenzen bei Begleitkomponenten | Admin Panel AGPL-3.0, Code-Interpreter Apache 2.0 | nur der Kern wird als MIT bezeichnet |
| Desktop-App | nicht vorhanden | eigene Nutzungsbedingungen (Version 14.07.2025) |
| Kostenpflichtiges Hersteller-Produkt zur Software | Produkt von ClickHouse auf LibreChat-Basis | AnythingLLM Pro (Desktop), Hersteller-Cloud |
Aus der MIT-Lizenz ergibt sich bei beiden Repositories weder eine Branding-Auflage noch eine Nutzergrenze. Laut dem Vergleich von Desktop und Docker in der AnythingLLM-Doku ist White-Labeling nur in der Docker-Version verfügbar.
Betrieb und Architektur
| LibreChat | AnythingLLM | |
|---|---|---|
| Empfohlener Weg | Docker Compose | Docker, ein Container (Port 3001) |
| Dienste im Standard | api, MongoDB, Meilisearch, RAG-Dienst mit PostgreSQL/pgvector, Admin Panel | keine Pflicht-Zusatzdienste: SQLite (Prisma) und LanceDB sind eingebettet |
| Optionale Dienste | Redis (bei mehreren Instanzen zwingend) | PostgreSQL durch Umschalten im Prisma-Schema oder über das Docker-Image pg, externe Vektordatenbank |
| Mehrere Instanzen | Redis zwingend hinter dem Load Balancer; CREDS_KEY und CREDS_IV identisch |
bei SQLite rät die Doku von horizontaler Skalierung ab und empfiehlt das pg-Image mit PostgreSQL und PGVector; Redis nicht vorgesehen, zur gemeinsamen Dateiablage keine Angabe |
| Weitere Wege | Helm-Chart (offiziell), npm auf eigenem Host | Desktop-App, Bare Metal, Cloud-Vorlagen (AWS CloudFormation, GCP, DigitalOcean/Terraform, Render, Railway u. a.), Helm-Chart im Repository |
| Mindestwerte laut Doku | 1 GiB RAM, 1 vCPU (Docker und npm; Compose-Stack mit allen Diensten: mindestens 2 GB empfohlen) | 2 GB RAM, 2-Core-CPU mit AVX2, 5 GB Speicher |
| Eigene Modellausführung | nein, keine GPU nötig | eingebauter lokaler Motor Lemonade/llama.cpp (Desktop-Standard für Neuinstallationen seit 1.18.0, Docker optional) |
AnythingLLM startet ohne externe Dienste. Die Systemanforderungen nennen mindestens 2 GB RAM und verlangen: "Your CPU must support the AVX2 instruction set." Grund ist LanceDB; die Voraussetzung betrifft x86, ARM-Builds sind nicht betroffen, und mit einer anderen Vektordatenbank lässt sie sich umgehen. Für den Speicher nennt die Anleitung HOW_TO_USE_DOCKER.md "Minimum 10GB recommended". Beide Speicherwerte stammen aus unterschiedlichen Quellen (Systemanforderungen: 5 GB, Docker-Anleitung: 10 GB empfohlen). Das Helm-Chart im Verzeichnis cloud-deployments/helm trägt die appVersion 1.85.0, die aktuelle Version ist 1.18.0. Der Desktop-Motor wechselte in Version 1.18.0 von Ollama auf Lemonade/llama.cpp; Neuinstallationen nutzen den neuen Motor, bestehende Installationen bleiben bis zur Migration bei Ollama (Changelog).
LibreChat braucht MongoDB für Konten und Konversationen (Docker-Anleitung). Die mitgelieferten Compose-Dateien starten MongoDB mit --noauth, die Datenbank gehört vor einem Produktivbetrieb abgesichert. Für feste Zugangsdaten verschlüsseln CREDS_KEY und CREDS_IV die in der Datenbank gespeicherten Zugangsdaten; bei mehreren Replikas müssen sie identisch sein. Hinter einem Load Balancer ist Redis zwingend. LibreChat führt selbst keine Modelle aus.
Einzelplatz und Mehrbenutzerbetrieb
AnythingLLM kennt drei Betriebsarten, LibreChat ist als Mehrbenutzer-Webdienst ausgelegt.
- Desktop-App für Mac, Windows und Linux, ausgelegt als "single-player". LibreChat hat keine Desktop-App, es ist eine reine Web-Anwendung (Doku).
- Docker im Einzelnutzer-Modus mit optionalem Passwortschutz. Scheduled Jobs und der Agent-Skill zum Anlegen geplanter Jobs stehen laut Doku nur in diesem Modus zur Verfügung.
- Docker im Mehrbenutzer-Modus mit lokalen Konten, Passwort und Einladungen. Der Modus ist nur mit Docker verfügbar. Die Seite Security and Access schreibt: "Once in multi-user mode, you cannot revert back to single-user mode".
Bei LibreChat wird der erste Account im Einzelmandanten-Setup zum Administrator, einen Gastmodus gibt es nicht (Authentifizierung).
Die Wahl der Betriebsart bei AnythingLLM legt damit fest, welche Funktionen zur Verfügung stehen: Rollen und die Zuweisung von Nutzern zu Workspaces gibt es nur im Mehrbenutzer-Modus, die Desktop-App ist nicht für mehrere Nutzer ausgelegt, und der Rückweg aus dem Mehrbenutzer-Modus ist nicht vorgesehen.
Anmeldung, SSO und Provisionierung
| Verfahren | LibreChat | AnythingLLM |
|---|---|---|
| E-Mail und Passwort | ja, Passwort-Reset, Passkeys (Admin-Opt-in) | ja, lokale Konten mit Passwort im Mehrbenutzer-Modus, Einladungen |
| OAuth/OIDC | Google, GitHub, Discord u. a., OpenID Connect (Anleitungen Entra ID, Keycloak, Authentik, Auth0) | in der Doku nicht gefunden |
| SAML | ja, ohne Single Logout | in der Doku nicht gefunden |
| LDAP/Active Directory | ja | in der Doku nicht gefunden |
| SCIM | in der Doku nicht gefunden | in der Doku nicht gefunden |
| Anmeldung über ein vorgeschaltetes System | Proxy-Authentifizierung in der Doku nicht gefunden | Simple SSO Passthrough: Einmal-Login-Link pro Nutzer, 10 Minuten gültig, Session 30 Tage |
| Gruppen aus dem Verzeichnis | Gruppen aus Entra ID synchronisierbar | Gruppen nicht dokumentiert |
LibreChat bringt alle Verfahren im MIT-Kern mit, nichts davon ist in der Authentifizierungsdokumentation als Enterprise-Funktion gekennzeichnet. SAML und OpenID schließen sich aus, es ist immer nur eine der beiden Methoden aktiv. Hinzu kommt ein zweiter Faktor per Authenticator-App für lokale und LDAP-Konten, der sich erzwingen lässt. Anleitungen: OAuth/OIDC, SAML, LDAP.
AnythingLLM hat in der gesamten Dokumentation (174 durchsuchte Seiten) keinen Treffer für OIDC, LDAP, SAML oder SCIM. Das beschreibt die Dokumentation, nicht zwingend den Code. Der einzige dokumentierte SSO-Mechanismus ist der Simple SSO Passthrough (SIMPLE_SSO_ENABLED). Die Seite Konfiguration beschreibt ihn so: "allows easily enable third party SSO solutions that do not require a full OAuth integration". Der Betreiber erzeugt dabei über die API mit einem API-Key einen Einmal-Login-Link für jeden Nutzer. Eine Anbindung an ein Verzeichnis wie Entra ID oder Keycloak ist in der Dokumentation nicht beschrieben; der Passthrough setzt einen eigenen Dienst voraus, der die Links über die API erzeugt. Die Preisseite der Hersteller-Cloud führt "SSO, RBAC, and more" im Tarif Enterprise auf, ohne Einzelheiten.
Rechte, Gruppen und Protokolle
| LibreChat | AnythingLLM | |
|---|---|---|
| Systemrollen | USER und ADMIN, eigene Rollen über das Admin Panel | Admin, Manager, Default |
| Rechtemodell | Funktionsrechte je Rolle, Ressourcen-ACLs, System-Grants; Prinzipale User, Group, Role, Public | Rollen plus Zuweisung zu Workspaces; keine Gruppen dokumentiert |
| Zugriff je Modell | je Rolle oder Gruppe lassen sich Endpoints und Konfiguration per Config-Override unterscheiden; ein Recht je einzelnem Modell ist nicht dokumentiert | in der Doku nicht beschrieben |
| Zugriff je Wissensbasis | über Agents (ACL); gruppenweite Wissensbasis nicht dokumentiert | je Workspace; keine Dokument- oder Quellberechtigungen, kein Permission-Sync |
| Audit-Log | Admin-Audit-Log (Rechte, Rollen, Gruppen, Freigaben, Konfiguration) mit Hash-Kette und CSV-Export seit 0.8.7, in der Doku nur im Changelog erwähnt; Token-Transaktionen und Moderationslog | Event Logs (Login-Versuche, Nachrichten, Einstellungsänderungen, Dokument-Uploads), Chat Logs |
| Nutzungsstatistik | Insights-Dashboard (Opt-in), Token-Kontingente je Nutzer | keine Nutzungsstatistik beschrieben; die Doku nennt für Admins nur pauschal "logs, analytics" |
AnythingLLM verwaltet Rechte über drei Rollen. Nutzer der Rolle Default können laut Dokumentation "only send chats to workspaces they are explicitly added to". Laut Doku verwaltet der Manager alles außer LLM, Embedder und Vektordatenbank; im Code sind zusätzlich Event Logs, API-Keys, Agent- und MCP-Konfiguration, Embed-Widgets sowie weitere Systemeinstellungen nur für Admins. Ein eingebettetes Dokument steht nach der Seite Chatting with documents "available to every user who has access to the workspace". Wer Dokumente nach Berechtigung trennen will, legt dafür getrennte Workspaces an. Die Event Logs erfassen unter anderem "User login attempts (successful and failed)".
LibreChat trennt Funktionsrechte je Rolle, Ressourcen-ACLs für Agents, Prompts, MCP-Server, Skills, Dateien und Konversationen sowie System-Grants. Jede Funktion lässt sich laut Zugriffskontrolle pro Nutzer, Gruppe, Rolle oder öffentlich freigeben. Die Gruppen können lokal oder aus Entra ID synchronisiert sein. Dazu kommen Beispielwerte für Nachrichtenlimits je IP und Nutzer sowie ein Bann-System in der .env.example. Das Admin Panel von LibreChat steht in der Dokumentation noch im Status "Preview", das Repository trägt dagegen ein Release 1.0.0 vom 24.06.2026. Bei einer Rollen- und Gruppenverwaltung über das Admin Panel gilt es, den Reifegrad vor dem Rollout zu prüfen.
Ein Recht je einzelnem Modell ist bei LibreChat nicht dokumentiert und bei AnythingLLM in der Doku nicht beschrieben.
Wissensbasis und RAG
| LibreChat | AnythingLLM | |
|---|---|---|
| Architektur | separater RAG-Dienst (FastAPI und LangChain) | in der Anwendung, eingebaute Vektordatenbank LanceDB (Standard) |
| Gliederung | Dateisuche laut Doku über Agents sowie über Custom Endpoints und die nativen Anbieter-Endpoints nutzbar; seit 0.8.7 Projects mit persönlichen Referenzdateien | Workspaces, Dokumente je Workspace |
| Vektordatenbanken | pgvector (Standard), Atlas MongoDB Vector Search | 9 laut README und Doku (Chroma und ChromaCloud zusammengezählt; der Code führt 10 Provider-IDs): LanceDB (Standard), PGVector, Astra DB, Pinecone, Chroma/ChromaCloud, Weaviate, Qdrant, Milvus, Zilliz |
| Suche | Vektorsuche; Volltext-Modus statt der besten Treffer; Reranking nur in der Websuche | Reranking ("Accuracy Optimized") nur mit LanceDB, +100 bis 500 ms |
| Hybrid-Suche | im RAG-Dienst nicht dokumentiert | in der Doku nicht beschrieben |
| Importformate | PDF, DOCX, XLS/XLSX, OpenDocument lokal über document_parser |
laut Code: txt, md, org, adoc, rst, csv, json, html, pdf, docx, pptx, odt, odp, xlsx, mbox, epub; Audio und Video; Bilder (png, jpg, jpeg, webp) |
| Extraktion | Mistral OCR (externe API), eigene OCR, lokal document_parser |
Transkription von Audio und Video (eingebaut oder OpenAI) |
| Embeddings | OpenAI (Standard), Azure, Hugging Face, Ollama | Standard-Embedder, geladen vom Hersteller-CDN |
| Quellen anbinden | SharePoint Online und OneDrive for Business; weitere über MCP-Server | 7 Konnektoren laut Quellcode (siehe unten) |
| Websuche | Serper, SearXNG, Tavily, Keenable | über Agent-Skill, Standardanbieter DuckDuckGo |
Die Angaben zu LibreChat stammen aus der Dokumentation zum RAG-Dienst, zu OCR, zu SharePoint und zur Websuche. Die README des RAG-Dienstes kündigt an, dass "different querying/re-ranking methods" erst über die Zeit ergänzt werden. Bei AnythingLLM folgen die Angaben der Seite zu den Vektordatenbanken, der Datei constants.js für die Importformate und der Seite zur Agent-Einrichtung für die Websuche.
Konnektoren laut Quellcode
AnythingLLM bringt im Verzeichnis collector/utils/extensions sieben Konnektoren mit:
- Confluence
- Drupal Wiki
- Obsidian Vault
- Paperless-ngx
- Repository-Loader für GitHub, GitLab und Gitea
- Website-Depth-Crawler
- YouTube-Transkript
Eine eigene Doku-Seite mit der Konnektorliste gibt es nicht. Die Seite Live Document Sync nennt Confluence, GitHub und YouTube als Beispiele: "Any file collected via a Data connector (eg: Confluence, Github, and YouTube)". Die Changelogs nennen zusätzlich GitLab (1.6.8), Drupal Wiki (1.8.1), Obsidian (1.8.4, Connector für die Desktop-App), Paperless-ngx (1.9.1) und Gitea (1.16.0). Die Zählung von sieben Konnektoren folgt den Verzeichnissen im Quellcode; die Oberfläche listet GitHub, GitLab und Gitea getrennt, das sind 9 Einträge. Google Drive, SharePoint und Slack sind unter den Konnektoren nicht enthalten. Dokumentberechtigungen der Quelle werden nicht übernommen: Es gibt kein Permission-Sync, ein importiertes Dokument gilt für alle Nutzer des Workspaces.
LibreChat bindet SharePoint Online und OneDrive for Business als Dateiauswahl im Chat an; weitere Quellen lassen sich über MCP-Server anbinden, die Doku hat MCP-Anleitungen unter anderem für Google Workspace und Salesforce. Die Dateisuche ist laut Doku über Agents sowie über Custom Endpoints und die nativen Anbieter-Endpoints nutzbar; seit 0.8.7 bieten Projects persönliche Referenzdateien. Eine gruppenweite Wissensbasis ist nicht dokumentiert.
Modelle und Anbieter
| Anbieter | LibreChat | AnythingLLM |
|---|---|---|
| Lokale Backends | über Custom Endpoints, Doku für Ollama, vLLM, LiteLLM | Ollama, LM Studio, LocalAI als Anbieter gelistet |
| OpenAI und Azure OpenAI | ja, nativ (auch Responses API) | ja |
| Anthropic | nativ | ja |
| nativ, auch Vertex AI | Google Gemini | |
| AWS Bedrock | nativ | ja |
| Weitere | Mistral, Groq, DeepSeek, OpenRouter, Apple MLX u. a. als Doku-Seiten | Mistral, Groq, Cohere, OpenRouter, LiteLLM, Lemonade u. a.; "OpenAI (Generic)" |
| Eingebauter Modellmotor | nein | Lemonade/llama.cpp (Desktop-Standard für Neuinstallationen seit 1.18.0, Docker optional) |
Die README von AnythingLLM listet 38 LLM-Anbieter (README). LibreChat bietet native Clients für die großen Anbieter und Custom Endpoints für beliebige OpenAI-kompatible APIs (Doku). Die Hersteller-Cloud von AnythingLLM enthält kein eingebautes LLM (Cloud-Limits). In Deutschland betriebene Modelle sind bei beiden Plattformen über einen passenden Anbieter angebunden, etwa über LLM-Hosting, Ollama oder LiteLLM.
Agenten, MCP und Code
| LibreChat | AnythingLLM | |
|---|---|---|
| Agenten | Agent Builder ohne Code, Agent Marketplace, Skills, Subagents; per ACL mit Nutzern und Gruppen teilbar | @agent mit Skills: Web-Suche, Web-Scraping, Dokumente listen und zusammenfassen, Diagramme, SQL-Agent, Gmail, Google Calendar, Outlook, Dateisystem, Dokumenterzeugung, geplante Jobs (nur im Einzelnutzer-Modus) |
| Eigene Erweiterungen | Skills (SKILL.md), Agent Plugins (experimentell) | No-Code Agent Flows, eigene Agent-Skills als JavaScript-Plugins (nicht in der Hersteller-Cloud) |
| MCP als Client | stdio, SSE, Streamable HTTP, WebSocket, OAuth-fähig; zur Laufzeit in der Oberfläche ergänzbar, stdio-Server nur in der Konfigurationsdatei | ja, in Docker und Desktop, MCP-Server nur durch Administratoren; in der Hersteller-Cloud nicht |
| Code-Ausführung | eigener Sandbox-Dienst (Apache 2.0) für Python, Node.js, Go, C/C++, Java, PHP, Rust, Fortran, R | Code-Interpreter als eigene Funktion nicht dokumentiert |
| Bildgenerierung | Werkzeuge für Agents: OpenAI-Bildwerkzeuge, Stable Diffusion (lokal), Flux, Gemini sowie beliebige MCP-Server | /img (OpenAI, OpenRouter, Ollama, Lemonade) |
| Sprache | STT/TTS: OpenAI, Azure OpenAI, ElevenLabs, selbst gehostete Engines, Browser-Sprache | TTS: Browser, Piper (lokal), Kokoro (selbst gehostet), OpenAI, ElevenLabs, OpenAI-kompatibel; STT: Browser, OpenAI, Groq, Deepgram, Lemonade, OpenAI-kompatibel |
| Memory | Schlüssel/Wert-Speicher je Nutzer, keine semantische Suche über den Chatverlauf | Memories, standardmäßig aus; höchstens 20 je Workspace und 5 global |
| Weitere Funktionen | Artefakte (React, HTML, SVG, Markdown, Mermaid) | Embed-Chat-Widget (nur Docker), Browser-Extension, Telegram-Kanal, Scheduled Tasks (nur im Einzelnutzer-Modus), Model Router |
| API | Agents API (Beta), model entspricht einer Agent-ID |
REST-Developer-API mit API-Keys, Swagger unter /api/docs; OpenAI-kompatible Teilmenge |
Die Angaben zu AnythingLLM stammen aus der Agenten-Übersicht, der MCP-Seite, der Seite zur Bildgenerierung, der Seite zu Memories und der Seite zu Text-to-Speech. Die Speech-to-Text-Anbieter stammen aus dem Quellcode (server/utils/SpeechToText) und den Changelogs 1.14.0, 1.14.2 und 1.16.0. Die OpenAI-kompatible Teilmenge der API besteht laut Quellcode aus /v1/openai/models, /v1/openai/chat/completions, /v1/openai/images/generations, /v1/openai/embeddings und /v1/openai/vector_stores; die API-Dokumentation nennt die eigenen Endpunkte unter /api/docs. Bei LibreChat bedient die Agents API Agents, keine Rohmodelle. Zu LibreChat siehe auch Agenten, MCP, Code-Interpreter, die Bildgenerierung und die Release-Notes 0.8.8.
LibreChat teilt Agenten, MCP-Server und Skills per ACL mit Nutzern und Gruppen und bietet einen Marketplace; AnythingLLM bringt Skills für Gmail, Google Calendar, Outlook, Dateisystem und SQL mit. LibreChat als MCP-Server ist nicht dokumentiert. Das Anlegen von MCP-Servern über die Oberfläche ist ein Sicherheitsthema: Alle drei kritischen Meldungen der letzten zwölf Monate betrafen MCP oder SSRF (siehe unten). In LibreChat 0.8.8 sind Code-Workspaces, Scheduled Chats und Agent Plugins als experimentell oder Beta markiert. Bei AnythingLLM betrifft eine der high-Meldungen den SQL-Agent.
Telemetrie und Datenfluss
| LibreChat | AnythingLLM | |
|---|---|---|
| Hersteller-Telemetrie | In Dokumentation, Beispielkonfiguration und Compose-Dateien nicht vorgesehen; Meilisearch-Analytics ist abgeschaltet | Standardmäßig an, Anbieter PostHog |
| Speicherort | MongoDB, Dateien lokal oder S3, Azure Blob, Firebase; Vektoren in pgvector | SQLite und LanceDB eingebettet (Standard) |
AnythingLLM beschreibt die Telemetrie in der README: "The Telemetry provider is PostHog - an open-source telemetry collection service." Laut README werden der Installationstyp (Docker oder Desktop), das Hinzufügen und Entfernen von Dokumenten, der Typ der Vektordatenbank, der LLM-Anbieter mit Modell-Tag und gesendete Chats erfasst, bei Chats nur das Ereignis ohne Inhalt. Im Quellcode kommen weitere Ereignistypen ohne Chatinhalt hinzu, zum Beispiel server_boot, login_event, workspace_created und agent_tool_call. Abschalten geht mit DISABLE_TELEMETRY=true oder in der Seitenleiste unter Privacy. Auch bei deaktivierter Telemetrie bleiben ausgehende Verbindungen, laut README (Telemetry & Privacy) und TERMS_SELF_HOSTED.md:
cdn.anythingllm.comals Modell-Mirror, unter anderem für den Standard-Embedder und den Reranker (TERMS_SELF_HOSTED.md).githubundgithubusercontentfür Flat Files des Context-Window-Caches (README).- Die gewählten externen Anbieter (README).
Für abgeschottete Umgebungen gehören diese Ziele und die Verbindungen zu den Modellen in die Firewall-Regeln. Bei LibreChat ist Herstellertelemetrie in der Dokumentation, der Beispielkonfiguration und den Compose-Dateien nicht vorgesehen. OpenTelemetry und Browser-RUM sind dort standardmäßig aus, Langfuse ist optional.
Sicherheitsmeldungen der letzten zwölf Monate
Veröffentlichte GitHub-Security-Advisories vom 21.10.2025 bis 21.10.2026:
| LibreChat | AnythingLLM | |
|---|---|---|
| Advisories gesamt | 28 | 23 |
| critical | 3 (SSRF CVE-2025-69222, MCP-Stdio-Befehlsausführung CVE-2026-22252, Auslesen von Server-Secrets über MCP-URL CVE-2026-32625) | 1 (XSS bis RCE über eine LLM-Antwort, CVE-2026-32626, 13.03.2026) |
| high | 9 | 5 (RCE über ripgrep --pre CVE-2026-48116, SQL-Injection im SQL-Agent CVE-2026-32628, permissive CORS CVE-2026-32617, Path Traversal CVE-2026-24478, Key-Leak CVE-2026-24477) |
| medium | 16 | 11 |
| low | 0 | 6 |
| Veröffentlicht seit Beginn | 29 (erste am 04.08.2025) | 25 |
| Jüngste Meldung | 02.06.2026 | 21.09.2026 |
| Schwerpunkte | Stichwortzählung der Titel: MCP 6, SSRF 5, XSS 3, 2FA 2 | viele zu Rechten zwischen Nutzern (IDOR, Manager-Bypass, Cross-User-Zugriff) |
Bei LibreChat erschienen 13 der 28 Meldungen am 02.06.2026, seitdem keine weitere. Die Zahl sagt nichts über die Qualität eines Projekts. Sie zeigt, wie viel gemeldet und veröffentlicht wurde, und hängt von Größe, Angriffsfläche und Meldekultur ab. Die SECURITY.md von AnythingLLM schließt bestimmte Meldungen als ungültig aus: SSRF über Web-Scraper und Collector gegen interne Hosts sowie über vom Admin konfigurierte Dienst-URLs, Meldungen zu vom Admin aktivierten Agent-Werkzeugen (SQL-Agent, Dateisystem), Meldungen, die sich darauf stützen, dass weder Passwort noch Multi-User-Modus eingerichtet sind, und Meldungen auf Basis eines Developer-API-Keys. Für beide Plattformen gilt: Updates zeitnah einspielen, Agenten-Werkzeuge wie MCP-Server, Dateisystem- und SQL-Zugriff nur gezielt freigeben und die Instanz nicht ohne Anmeldung ins Internet stellen. Die Meldungen sind unter LibreChat Security Advisories und AnythingLLM Security Advisories einsehbar.
Hersteller, Support und Kosten
| LibreChat | AnythingLLM | |
|---|---|---|
| Hersteller | ClickHouse, Inc. (Übernahme am 04.11.2025 angekündigt, Fortführung als Open Source zugesagt) | Mintplex Labs Inc. |
| Software | kostenlos (MIT) | kostenlos (MIT für Repository und Docker-Version; Desktop-App nach eigenen Nutzungsbedingungen) |
| Kommerzielles Angebot | kein öffentliches Enterprise- oder Support-Angebot; ClickHouse bietet ein Produkt auf LibreChat-Basis ohne öffentliche Preise (30 Tage Test, 300 USD Guthaben) | Hersteller-Cloud (siehe unten), AnythingLLM Pro für die Desktop-App (Preis nicht genannt), Enterprise-Vereinbarung |
| Hersteller-Support | Community, Kontakt per E-Mail ([email protected]), Finanzierung über GitHub Sponsors | Cloud-Tarif Pro: "72-hour support SLA"; Self-Hosting-SLA nur per separater Enterprise-Vereinbarung |
Laut Cloud-Dokumentation stellt die Hersteller-Cloud von AnythingLLM "isolated and private instances of AnythingLLM" bereit, je Kunde eine isolierte Instanz auf AWS. Preise laut Preisseite, Stand 21.10.2026:
| Tarif | Preis | Umfang |
|---|---|---|
| Basic | USD 50 pro Monat | private Instanz, Subdomain, eigener LLM-Key |
| Pro | USD 99 pro Monat | 72-hour support SLA |
| Enterprise | auf Anfrage | On-premise-Deployment, Custom SLA, Custom Integrations, "SSO, RBAC, and more" |
In der Hersteller-Cloud sind laut Cloud-Limits kein MCP, keine Custom Agents und kein eingebautes LLM verfügbar. Die Projektseite librechat.ai/about beschreibt LibreChat als von einem eigenen Team und einer Gemeinschaft von Freiwilligen gepflegt; ein öffentliches Support- oder SLA-Angebot ist nicht zu finden. Die Demo chat.librechat.ai dient nur der Evaluation. Die Übernahme durch ClickHouse steht im Blog von ClickHouse und im Ausblick 2026 des Projekts.
Beide Programme kosten in der Selbstinstallation keine Lizenzgebühr. Die Betriebskosten entstehen durch Hosting, Updates, Backups, Monitoring und die Anbindung der Modelle.
Welche Plattform für welchen Einsatz
| Einsatz | Passt am besten | Zu beachten |
|---|---|---|
| Einzelner Arbeitsplatz ohne Server | AnythingLLM (Desktop-App) | nicht für mehrere Nutzer ausgelegt; eigene Nutzungsbedingungen der Desktop-App; Pro-Abo nur für Desktop |
| Team mit lokalen Konten in einem Container, ohne Zusatzdienste | AnythingLLM | keine Standard-SSO-Verfahren dokumentiert; Rechte ohne Gruppen; CPU mit AVX2 |
| Anmeldung über OIDC, SAML oder LDAP | LibreChat | SAML und OpenID nicht gleichzeitig; kein SCIM in der Doku |
| Rechte nach Gruppen, Agenten per ACL teilen | LibreChat | Admin Panel in der Doku noch "Preview"; Recht je einzelnem Modell nicht dokumentiert |
| Dokumentquellen wie Confluence, Paperless-ngx oder Repositories | AnythingLLM | Konnektoren aus dem Quellcode; kein Permission-Sync, Dokumente gelten workspaceweit |
| SharePoint Online und OneDrive for Business | LibreChat | Dateiauswahl im Chat |
| Keine Herstellertelemetrie ohne Konfigurationsschritt | LibreChat | AnythingLLM: Telemetrie standardmäßig an, DISABLE_TELEMETRY=true nötig |
| Hersteller-SLA | AnythingLLM (Cloud Pro, Enterprise) | Self-Hosting-SLA nur per Enterprise-Vereinbarung; für LibreChat kein öffentliches Angebot |
| Lokales Modell ohne separaten Modellserver | AnythingLLM | im Docker-Betrieb optional, Desktop-Standard für Neuinstallationen seit 1.18.0 |
| Code-Ausführung im Chat | LibreChat | Sandbox-Dienst separat; Meldungen zu MCP und SSRF beachten |
Verbreitete Irrtümer
- "AnythingLLM ist nur eine Desktop-App." Nein. Es gibt ein Docker-Image mit Mehrbenutzer-Modus, eine Hersteller-Cloud und Cloud-Vorlagen. Die Desktop-App ist eine von mehreren Betriebsarten.
- "AnythingLLM unterstützt SSO über OIDC oder LDAP." In der Dokumentation nicht gefunden. Dokumentiert ist der Simple SSO Passthrough mit Einmal-Login-Links.
- "AnythingLLM hat Gruppen und Dokumentrechte." Nicht dokumentiert. Es gibt drei Rollen und die Zuweisung zu Workspaces; ein Dokument gilt für alle Nutzer des Workspaces.
- "Lokal betrieben heißt keine Daten nach außen." Bei AnythingLLM ist die Telemetrie standardmäßig an, und auch mit
DISABLE_TELEMETRY=truebleiben Verbindungen zu cdn.anythingllm.com und GitHub. - "LibreChat hat kein SAML." Doch, SAML ist dokumentiert, ohne Single Logout.
- "LibreChat läuft wie AnythingLLM als einzelner Container." Nein. Im Standard starten MongoDB, Meilisearch und ein RAG-Dienst mit PostgreSQL mit.
- "Seit der Übernahme durch ClickHouse hat LibreChat eine andere Lizenz." Die Lizenzdatei ist seit November 2023 bis auf die Jahreszahl unverändert und enthält MIT. ClickHouse hat die Fortführung als Open-Source-Projekt zugesagt.
Stand und Methodik
Stand: 21. Oktober 2026. Datenbasis sind die GitHub-API (Lizenz, Version, Sterne, veröffentlichte Security-Advisories), die LICENSE-Dateien der Repositories, die Dokumentation von LibreChat und AnythingLLM, die Compose- und Umgebungsdateien von LibreChat sowie der Quellcode und die Changelogs von AnythingLLM für Konnektoren, Importformate, Speech-to-Text-Anbieter, Rollenprüfung, Telemetrie-Ereignisse und OpenAI-kompatible Endpunkte. Die Dokumentation von AnythingLLM wurde aus dem Quelltext der Dokumentationsseiten gelesen, der neuer sein kann als die veröffentlichte Seite. Sterne sind gerundet und ändern sich täglich. Aussagen mit "in der Doku nicht gefunden" oder "nicht dokumentiert" bedeuten, dass die Dokumentation das Merkmal nicht beschreibt; die Funktion kann im Code vorhanden sein. Das gilt besonders für OIDC, LDAP und SAML bei AnythingLLM sowie für Hybrid-Suche, Code-Interpreter, eine eigene Nutzungsstatistik und Gruppen. Die Advisories umfassen den Zeitraum 21.10.2025 bis 21.10.2026, die Schwerpunkte bei LibreChat sind eine Stichwortzählung der Titel. Bei LibreChat wurde die Herstellertelemetrie anhand von Dokumentation, Beispielkonfiguration, Compose-Dateien und vier package.json-Dateien geprüft, der Quellcode nicht vollständig. Die Ratenlimits von LibreChat sind Beispielwerte aus der .env.example, die Code-Standardwerte wurden nicht geprüft. Wo Dokumentation und Repository sich widersprechen (LibreChat: Reifegrad des Admin Panels; AnythingLLM: appVersion des Helm-Charts gegenüber der Release-Version), ist das vermerkt.
Tabellen und Zahlen dürfen mit Quellenangabe und Link auf diesen Beitrag weiterverwendet werden.
Unser Vorgehen bei WZ-IT
WZ-IT betreibt LibreChat und AnythingLLM als Hosting- und Betriebsangebot in Deutschland. Bei LibreChat betreibt WZ-IT Anwendung, Datenbanken, Proxy, Updates, Monitoring und Backup und sichert Zugangsdaten und Modellendpunkte technisch ab; welche Modelle, Nutzergruppen und MCP-Werkzeuge zulässig sind, legt der Kunde fest. Ob AnythingLLM oder LibreChat passt, entscheiden vor allem Nutzerzahl, Anmeldeverfahren und Rechtekonzept; diese Punkte besprechen wir im Erstgespräch. Für Teams mit Berufsgeheimnis gibt es die KI-Plattform.
Weiterführende Guides
- Open WebUI vs. LibreChat, LibreChat im Vergleich mit Open WebUI.
- Open WebUI vs. AnythingLLM, AnythingLLM im Vergleich mit Open WebUI.
- Open-Source-KI-Chat-Plattformen im Vergleich, alle Plattformen im Überblick.
- Open WebUI vs. Onyx, Chat-Oberfläche gegen Unternehmenssuche.
- Open WebUI Lizenz und Branding, eine Branding-Klausel im Detail.
- KI-Plattformen für Unternehmen im Vergleich, gehostete Angebote nach DSGVO und §203.
- LLM-Hosting, Betriebsmodelle für Sprachmodelle in Deutschland.
LibreChat oder AnythingLLM auswählen oder betreiben lassen? Wir ordnen Nutzerzahl, Anmeldung, Rechte und Modelle ein und betreiben beide Plattformen in Deutschland. Termin vereinbaren
Quellen
- LibreChat, Repository
- LibreChat, LICENSE
- LibreChat, Admin Panel (AGPL-3.0)
- LibreChat, .env.example
- LibreChat Docs, Über LibreChat
- LibreChat Docs, Docker
- LibreChat Docs, Lokale Installation
- LibreChat Docs, Redis
- LibreChat Docs, Authentifizierung
- LibreChat Docs, OAuth2/OIDC
- LibreChat Docs, SAML
- LibreChat Docs, LDAP
- LibreChat Docs, Zugriffskontrolle
- LibreChat Docs, Admin Panel
- LibreChat Docs, RAG API
- LibreChat, README des RAG-Dienstes
- LibreChat Docs, OCR
- LibreChat Docs, SharePoint
- LibreChat Docs, Websuche
- LibreChat Docs, Custom Endpoints
- LibreChat Docs, Agents
- LibreChat Docs, Agents API
- LibreChat Docs, MCP
- LibreChat Docs, Code-Interpreter
- LibreChat Docs, Bildgenerierung
- LibreChat Docs, Projects
- LibreChat Docs, Umgebungsvariablen
- LibreChat, Release 0.8.8
- LibreChat, Security Advisories
- LibreChat, Ausblick 2026
- ClickHouse, Übernahme von LibreChat
- AnythingLLM, Repository
- AnythingLLM, LICENSE
- AnythingLLM, TERMS_SELF_HOSTED.md
- AnythingLLM, README
- AnythingLLM, SECURITY.md
- AnythingLLM, HOW_TO_USE_DOCKER.md
- AnythingLLM, Importformate im Quellcode
- AnythingLLM, OpenAI-kompatible Endpunkte im Quellcode
- AnythingLLM Docs, Changelog 1.18.0
- AnythingLLM Docs, Changelog 1.6.8
- AnythingLLM Docs, Changelog 1.8.1
- AnythingLLM Docs, Changelog 1.8.4
- AnythingLLM Docs, Changelog 1.9.1
- AnythingLLM Docs, Changelog 1.14.0
- AnythingLLM Docs, Changelog 1.14.2
- AnythingLLM Docs, Changelog 1.16.0
- AnythingLLM Docs, Docker-Images
- AnythingLLM Docs, Cloud-Docker und Skalierung
- AnythingLLM Docs, Desktop und Docker im Vergleich
- AnythingLLM Docs, Nutzungsbedingungen der Desktop-App
- AnythingLLM Docs, Scheduled Jobs
- AnythingLLM Docs, Text-to-Speech
- AnythingLLM Docs, Systemanforderungen
- AnythingLLM Docs, Konfiguration
- AnythingLLM Docs, Security and Access
- AnythingLLM Docs, Event Logs
- AnythingLLM Docs, Chatting with documents
- AnythingLLM Docs, Vektordatenbanken
- AnythingLLM Docs, Live Document Sync
- AnythingLLM Docs, Agent-Einrichtung
- AnythingLLM Docs, Agenten
- AnythingLLM Docs, MCP
- AnythingLLM Docs, Bildgenerierung
- AnythingLLM Docs, Memories
- AnythingLLM Docs, API
- AnythingLLM Docs, Pro
- AnythingLLM Docs, Cloud
- AnythingLLM Docs, Cloud-Limits
- AnythingLLM, Hersteller-Cloud und Preise
- AnythingLLM, Security Advisories
- LibreChat, Changelog 0.8.7












