[email protected]

AnythingLLM Hosting in Deutschland

WZ-IT betreibt AnythingLLM als eigene Instanz in Rechenzentren in Deutschland, der Schweiz oder Österreich, mit Updates, täglichem Backup, 24/7-Monitoring und persönlichem Ansprechpartner. Auf Wunsch installieren wir AnythingLLM auch in Ihrer Cloud oder on-premises.

Bewertungen
Cloud Wolke HerausforderungServer NachhaltigkeitIT Beratung Service Consulting SoforthilfeTimo Wevelsiep Robin ZinsExperten für Innovation Migration AWSHetzner Hosting zuverlässig

Kunden aus Mittelstand, Industrie und öffentlicher Hand, in Deutschland und international

  • Stadtwerke Brühl
  • DGHO e.V.
  • solarwerkstatt berlin
  • Krüger Dirndl
  • ABCO Water Systems
  • Golem.de
  • EVADXB
  • nextGYM
  • AInergy
  • ml&s
  • Odiseo Solutions
  • Annota
  • ARGE
  • SweetConnect GmbH
  • Aphy AG
  • CORGOS
  • Rekorder
  • SolidProof
  • Yonju
  • Keymate
  • Paritel
  • Mr. Clipart
  • Millenium
  • Negosh
  • Führerscheinmacher
  • BTI
  • Deutsche Gesellschaft für Datenschutz
Kundenstimmen ansehen

Über die Technologie

Was ist AnythingLLM?

AnythingLLM ist eine vollständig selbst hostbare AI-Dokumenten-Chat-Plattform, die es Unternehmen ermöglicht, privat mit ihren Dokumenten zu chatten. Als All-in-One Desktop & Docker AI-Anwendung bietet AnythingLLM eingebaute RAG-Funktionalität, AI Agents, einen No-Code Agent Builder und vieles mehr.

AnythingLLM kann lokale und entfernte LLM-Provider sowie unterschiedliche Vektorspeicher anbinden und bietet Workspaces für Teams. Welche Daten die eigene Umgebung verlassen, hängt von den ausgewählten Modell-, Embedding- und Integrationsdiensten ab.

Funktionen

  • AI-Dokumenten-Chat

    Fragen Sie Dokumentinhalte über eine Chat-Oberfläche ab. Qualität und Quellenbezug hängen von Extraktion, Chunking, Index, Retrieval und Modell ab.
  • RAG (Retrieval-Augmented Generation)

    RAG ruft passende Dokumentabschnitte für die Modellantwort ab. Indexierung, Berechtigungen, Retrieval und Quellenanzeige werden für den konkreten Bestand getestet.
  • Multi-LLM Support

    Unterstützt mehrere LLM-Provider: Ollama (lokal), OpenAI, Anthropic Claude, Google Gemini, Azure OpenAI, LM Studio und viele mehr. Wechseln Sie flexibel zwischen Providern je nach Anforderung.
  • Kontrollierbare Datenflüsse

    Bei einer vollständig lokalen Konfiguration können Dokumente, Embeddings und Modellanfragen in der eigenen Umgebung bleiben. Bei Remote-LLM- oder Embedding-Anbietern werden die jeweils übermittelten Inhalte extern verarbeitet.
  • Multi-User Workspaces

    Erstellen Sie separate Workspaces für verschiedene Teams, Projekte oder Anwendungsfälle. Jeder Workspace kann eigene Dokumente, LLM-Konfigurationen und Berechtigungen haben.
  • Intelligentes Dokumentenmanagement

    Verarbeitet gängige Dokumentformate und erzeugt daraus Chunks und Embeddings. Unterstützte Formate und Ergebnisqualität hängen von Version, Parser und Dokumentstruktur ab.
  • Enterprise Security

    Zugriffsregeln und die Anbindung an bestehende Identitätsdienste werden mit Netzwerk-, Transport- und Speicherverschlüsselung der Betriebsumgebung kombiniert. Verfügbare Funktionen hängen von Version und Edition ab.
  • Open Source

    Der öffentlich einsehbare Quellcode ermöglicht technische Prüfung und Anpassungen. Abhängigkeiten, angeschlossene Modelle und externe Dienste werden in die Sicherheitsbewertung einbezogen.
  • Selbst gehostet oder Managed

    Betreiben Sie AnythingLLM on-premise, in Ihrer Cloud oder nutzen Sie unser Managed Hosting. Volle Flexibilität bei Deployment-Modellen mit Unterstützung von Datenschutzanforderungen.

Infrastruktur, Integration und Betrieb

AnythingLLM als Teil Ihrer Infrastruktur

Wir stellen nicht nur eine Anwendung bereit. WZ-IT plant die technische Architektur, bindet Netzwerk und Identitäten an, übernimmt den vereinbarten Betrieb und entwickelt Integrationen weiter, wenn der Standard nicht ausreicht.

Architektur und Migration

Sizing, Zielumgebung, Datenübernahme, Cutover und Wiederanlauf werden vor dem produktiven Betrieb geklärt.

  • On-Premise

    In Ihrem Rechenzentrum: Installation auf Bare-Metal, VM oder Docker · Integration in bestehendes Active Directory/LDAP

  • Installation in Ihrer Cloud

    In Ihrem eigenen Cloud-Konto, etwa bei AWS, Azure, GCP oder Hetzner · Terraform/IaC Setup (optional) · Kubernetes oder Docker Compose · Kapazitäts- und Skalierungskonzept

  • Enterprise Setup

    Erweiterte Architektur nach technischer und lizenzrechtlicher Prüfung: HA- und Wiederanlaufkonzept, soweit von Anwendung und Edition unterstützt · Protokollierung nach Funktionsumfang und Edition · Individuelle Security Policies

Netzwerk und Identity

SSO, sichere Zugänge, interne Systeme und vorhandene Security-Komponenten werden passend eingebunden.

  • VPN-Zugang

    WireGuard, NetBird, Tailscale, Headscale, OpenVPN, Cloudflare Tunnel · Einfaches Client-Setup für alle Geräte

  • SSO Integration

    Direkt oder über vorgeschalteten Identity-Layer

  • Multi-Faktor-Auth

    Abhängig von Anwendung, Edition und Identity Provider

  • Firewall & Hardening

    Fail2Ban, Rate Limiting, IP Whitelisting

Monitoring und Service Level

Updates, Backups, technische Überwachung und Reaktionswege folgen einem transparenten Betriebsumfang.

  • 24/7 proaktives Monitoring

  • Updates und Patches

    Regelmäßige Updates, CVE-Monitoring und priorisierte Patches bei kritischen Lücken

  • Tägliches Backup mit 7 Tagen Aufbewahrung

  • Persönlicher technischer Ansprechpartner

Integration und Weiterentwicklung

APIs, Automatisierungen und individuelle Erweiterungen können über die reine Bereitstellung hinaus umgesetzt werden.

  • Chat & Query API

    Integration des Chatbots in Ihre bestehende Software (Intranet, Support-Tool). Ihre App sendet die Frage, AnythingLLM liefert die Antwort inkl. Quellenangabe.

  • Custom Data Connectors

    Standard-Scraper reichen nicht? Wir schreiben Skripte, die Daten aus proprietären SQL-Datenbanken oder internen Wikis extrahieren, bereinigen und in den Vektor-Store laden.

  • Agent Skills

    Wir geben der KI 'Hände'. Entwicklung von Tool-Definitions, die dem LLM erlauben, API-Calls auszuführen (z.B. 'Buche Raum X' -> API Call an Kalender).

Full-Service Installation ohne versteckte Kosten

Leistungsumfang der AnythingLLM-Einrichtung

  • Vollständige Installation & Konfiguration
  • SSL-Zertifikat & Reverse Proxy Setup
  • Backup-Strategie & Disaster Recovery
  • Performance-Optimierung & Tuning
  • Security Hardening nach OWASP
  • Monitoring & Logging Setup
  • Dokumentation & Best Practices
  • Administrator-Schulung (Remote)
  • 30 Tage E-Mail Support inklusive
  • Persönlicher Ansprechpartner
  • Optionale Integration: LDAP/AD, SSO, MFA
  • Update-Strategie & Einführung Patch-Management

Der konkrete Umfang hängt von Anwendung, Edition, Infrastruktur und Kritikalität ab. Herstellerlizenzen und Sonderkomponenten werden separat ausgewiesen.

Anwendungsfälle

AnythingLLM im Unternehmen einsetzen

  • KI-gestützter Dokumenten-Chat

    Chatten Sie mit Ihren Dokumenten und erhalten Sie präzise Antworten basierend auf Ihren eigenen Daten mit RAG-Technologie
  • Wissensmanagement

    Zentralisieren Sie Unternehmenswissen in Workspaces und machen Sie es durch KI durchsuchbar und nutzbar für Ihr gesamtes Team
  • Private AI für Unternehmen

    Auf DSGVO-Anforderungen ausgerichtete AI-Lösung ohne Datenübertragung an Drittanbieter - ideal für regulierte Branchen und datenschutzkritische Anwendungen
  • Team-Kollaboration mit KI

    Multi-User-Support mit Workspace-Management, granularen Berechtigungen und rollenbasierter Zugriffskontrolle für effiziente Teamarbeit
  • Flexible LLM-Auswahl

    Nutzen Sie lokale Modelle (Ollama, LM Studio) oder Cloud-basierte LLMs (OpenAI, Azure, Anthropic) nach Ihren Anforderungen
  • Datensouveränität & Compliance

    Kontrolle über Datenstandort und Zugriffe und KI-Modelle für Gesundheitswesen, Finanzen, Behörden und andere regulierte Branchen

Konkrete Use Cases

AnythingLLM Entwicklung & Integration

AnythingLLM ist das Betriebssystem für Ihre privaten Dokumente. Wir erweitern es, damit es Dokumente liest und aktiv in Ihre Prozesse eingreift.

L1 Support Automation

Problem

Support wird mit wiederkehrenden Fragen zu Handbüchern überlastet.

Lösung

Einbettung eines AnythingLLM-Bots im Helpdesk. Er schlägt dem Agenten basierend auf der Kundenfrage sofort die passenden Passagen aus der technischen Doku vor.

Automated Knowledge Sync

Problem

Wissen veraltet schnell. PDFs manuell hochladen skaliert nicht.

Lösung

Cronjob-Skripte, die nachts Änderungen im Sharepoint/Confluence erkennen und den Vektor-Index inkrementell aktualisieren.

Managed Hosting & Betrieb

Was kostet AnythingLLM Hosting?

Compute, Anwendungen, Speicher und Reaktionszeit werden getrennt ausgewiesen. So sehen Sie, was im laufenden Betrieb enthalten ist und welche Anforderungen erst nach einem technischen Assessment angeboten werden.

Starter-Workload ab99,90 €/ Monat · monatlich kündbarMit Mindestlaufzeit: 10 % Nachlass auf Betrieb und Hosting bei 6 Monaten, 20 % bei 12 Monaten, Zahlung monatlich, halbjährlich oder jährlich

AnythingLLM Hosting in Deutschland: DSGVO-konformer Betrieb

  • Eine verwaltete Standard-Anwendung enthalten
  • .de-Domain inklusive oder Ihre Domain bzw. Subdomain per CNAME
  • Standort wählbar: Deutschland (ISO 27001, BSI C5), Schweiz (ISO 27001) oder Österreich (ISO 27001), jeweils im Geltungsbereich des Rechenzentrumsbetreibers
  • Zusatzvereinbarung nach § 203 StGB auf Anfrage möglich (Standort Deutschland)
  • Confidential-Compute-VM optional, Preis individuell Neu
  • 99,9 % Standardverfügbarkeit im Monat
  • Regelmäßige Updates, CVE-Monitoring und priorisierte Patches bei kritischen Lücken
  • Zentrale Logs mit unveränderbarer Aufbewahrung
  • Tägliches Backup mit 7 Tagen Aufbewahrung
  • 5 TB ausgehender Traffic je Workload und Monat
  • 24/7 proaktives Monitoring
  • Fünf Service Levels, 24/7-P1-Reaktion mit Production oder Critical
  • Persönlicher technischer Ansprechpartner

Instanzgrößen und Preise je Monat

XS · 2 vCPU, 2 GB RAM, 40 GB NVMe SSD
99,90 € gesamt
S · 2 vCPU, 4 GB RAM, 80 GB NVMe SSD
129,90 € gesamt
M · 4 vCPU, 8 GB RAM, 80 GB NVMe SSD
159,80 € gesamt
L · 8 vCPU, 16 GB RAM, 80 GB NVMe SSD
219,80 € gesamt
XL · 16 vCPU, 32 GB RAM, 80 GB NVMe SSD
329,80 € gesamt
Zusätzlicher Speicher je 50 GB
+4,99 €

Bereitstellung unkompliziert innerhalb weniger Werktage

Zahlung
  • SEPA-Lastschrift
  • Visa
  • Mastercard
  • American Express
  • Apple Pay
  • Google Pay
  • PayPal
  • Überweisung

Alle Preise verstehen sich netto zuzüglich gesetzlicher Umsatzsteuer. Die Angebote richten sich an Unternehmen. Alle On-Premise-Optionen

Service Levels

Fünf Service Levels für unterschiedliche Betriebsanforderungen

Reaktionsziel = technische Erstreaktion auf kritische Störungen (P1) · Preis und flexibles Betriebsbudget je Kundenumgebung und Monat · Stundensatz für Zusatzleistungen

  1. Essential

    Nächster Arbeitstagbis Ende des TagesTechnische Erstreaktion auf kritische Störungen (P1) bis Ende des nächsten Arbeitstags

    inklusiveim Betriebsgrundpreis

    ohne Betriebsbudget
    Stundensatz
    5 % unter Standard
    reguläre Servicezeit
    114 €
    außerhalb der regulären Servicezeit
    228 €

    Für weniger zeitkritische Systeme, Staging und interne Anwendungen.

  2. Business

    Beliebt

    4 Std.innerhalb der ServicezeitTechnische Erstreaktion auf kritische Störungen (P1) innerhalb von 4 Servicezeitstunden

    +99,90 €

    0,5 Std. Betriebsbudget
    Stundensatz
    10 % unter Standard
    reguläre Servicezeit
    108 €
    außerhalb der regulären Servicezeit
    216 €

    Für produktive Systeme ohne vertragliche Nacht- und Wochenendbereitschaft.

  3. Priority

    1 Std.innerhalb der ServicezeitTechnische Erstreaktion auf kritische Störungen (P1) innerhalb von 1 Servicezeitstunde

    +199,90 €

    1 Std. Betriebsbudget
    Stundensatz
    15 % unter Standard
    reguläre Servicezeit
    102 €
    außerhalb der regulären Servicezeit
    204 €

    Für geschäftskritische Systeme mit schneller Reaktion während der Servicezeit.

  4. Production

    60 Min.auch nachts und am WochenendeTechnische Erstreaktion auf kritische Störungen (P1) rund um die Uhr innerhalb von 60 Minuten

    +349,90 €

    1 Std. Betriebsbudget
    Stundensatz
    20 % unter Standard
    reguläre Servicezeit
    96 €
    außerhalb der regulären Servicezeit
    192 €

    24/7-P1-Bereitschaft für geschäftskritische Produktionsumgebungen.

  5. Critical

    nach Audit

    30 Min.auch nachts und am WochenendeTechnische Erstreaktion auf kritische Störungen (P1) rund um die Uhr innerhalb von 30 Minuten

    +549,90 €

    2 Std. Betriebsbudget
    Stundensatz
    25 % unter Standard
    reguläre Servicezeit
    90 €
    außerhalb der regulären Servicezeit
    180 €

    Buchbar nach Audit sowie Runbook- und Kapazitätsfreigabe.

Business, Priority, Production und Critical enthalten den ersten erfassten Workload einer Kundenumgebung. Weitere erfasste Workloads kosten 29,90 €, 39,90 €, 49,90 € beziehungsweise 59,90 € pro Monat. Monitoring-only-Server benachrichtigen wir im Zeitfenster der Stufe für 14,90 €, 19,90 €, 24,90 € beziehungsweise 29,90 € je Server und Monat; ohne Service Level in der Servicezeit.

Das flexible Betriebsbudget gilt für planbare Leistungen innerhalb der regulären Servicezeit und verfällt zum Monatsende. Betrieb, Monitoring, Backups, Wartung und Updates im vereinbarten Umfang werden nicht davon abgezogen. Zusatzleistungen über den vereinbarten Betrieb und das Betriebsbudget hinaus sowie weitergehender Incident-Aufwand werden mit dem Stundensatz des Service Levels der betroffenen Umgebung abgerechnet. Der Standardsatz gilt für Auftragsarbeit ohne Service Level. Stundenpakete und Festpreise haben eigene Preise. Alle Preise verstehen sich netto zuzüglich gesetzlicher Umsatzsteuer. Die Angebote richten sich an Unternehmen.

SLA & Service Levels →

Zielarchitektur

AnythingLLM kontrolliert in Ihre Infrastruktur einbetten

KI-Anwendungen benötigen neben der Oberfläche kontrollierte Modellzugänge, Wissensquellen, Berechtigungen und Beobachtbarkeit. Wir planen diese Datenflüsse als zusammenhängenden Stack.

Nutzer und angebundene Anwendungen

Teams, Fachanwendungen und API-Clients greifen über definierte Oberflächen und Schnittstellen zu.

Sicherer Zugang

TLS, Firewall-Regeln, Reverse Proxy oder private Netzwerkpfade werden passend zur Exposition der Plattform geplant.

Identitäten und Berechtigungen

Lokale Konten, SSO, Verzeichnisdienste, Service Accounts und Notfallzugänge werden mit klaren Rollen verbunden.

AnythingLLM-Plattform

Anwendungslogik, Modellzugriffe, Rollen und freigegebene Funktionen laufen in einer kontrollierten Umgebung.

Modelle und Compute

Lokale oder externe Modelle, GPU-/CPU-Ressourcen, Routing, Limits und Kostenkontrolle.

Wissen und Daten

Dokumente, Datenbanken, Vektorsuche und nachvollziehbare Datenpfade für RAG und Suche.

Tools und Observability

Geprüfte Tools, APIs, Protokollierung, Metriken und technische Qualitätskontrollen.

Modelle, Erweiterungen und Datenquellen werden nicht pauschal freigeschaltet. Berechtigungen, Datenabfluss, Kosten und fachliche Kontrolle werden je Anwendungsfall bewertet.

Häufig gestellte Fragen

Antworten auf die wichtigsten Fragen

Wissen

Mehr zu AnythingLLM

Bewertungen & Projekte

Kundenstimmen und Projekte weltweit

Vernetzung & Provisioning

WZ-IT hat unsere Studio-Infrastruktur von dezentralen Einzelgeräten auf eine zentrale Plattform gehoben: Jeder Standort ist per VPN sicher angebunden, neue Geräte werden automatisiert onboardet und ein kompletter Standort wird per Vorlage provisioniert - ohne manuelle Schritte vor Ort. Was mich am meisten beeindruckt hat, ist die Breite und Tiefe des Wissens: Timo und Robin sind kein normaler IT-Dienstleister, der einen Server aufsetzt und wieder geht. Die beiden denken sich in hochkomplexe Infrastruktur- und Softwarethemen rein, arbeiten sich in jede Anforderung ein, die wir ihnen hinlegen, und bauen Vernetzung, Provisioning und Betrieb so auf, dass am Ende alles zusammenpasst. WZ-IT ist ein hervorragender Partner, wenn es um komplexe Software-, Netzwerk- und Architekturprojekte geht.
Steve KirchnerGeschäftsführer, nextGYM GmbH
Projekt ansehen

International

Gebaut im Ruhrgebiet. Produktiv weltweit.

WZ-IT plant, entwickelt und betreibt Infrastruktur und Software für Kunden in Deutschland und international. Projekte setzen wir remote um und begleiten sie auch nach dem Go-live im laufenden Betrieb.

Ausgewählte Projekte

Kundenstimmen ansehen

Managed Hosting & Betrieb

Hosting und Betrieb für AnythingLLM anfragen

Nennen Sie kurz Ausgangslage und Ziel für AnythingLLM. Wir ordnen Infrastruktur, Integration und laufenden Betrieb ein.

  • Direkt mit Timo und Robin - kein Vertrieb, kein Sales-Pitch
  • Fachliche Einschätzung Ihrer Situation
  • Konkrete nächste Schritte für Infrastruktur, Software oder KI

Das Gespräch ist unverbindlich und kostenlos.

Die Beratung von WZ-IT zu unserer Azure-Migration war schon im Erstgespräch fachlich sehr fundiert und völlig unverbindlich - wir haben eine Menge mitgenommen.
Jakob ÖschlbergerInno7 GmbH
Timo und Robin, Gründer von WZ-IT

Welche AnythingLLM-Leistung benötigen Sie?

Wählen Sie den passenden Einstieg oder beschreiben Sie einfach die Ausgangslage.

Antwort in der Regel innerhalb eines Werktags. Bitte keine Zugangsdaten übermitteln.

Die Beratung von WZ-IT zu unserer Azure-Migration war schon im Erstgespräch fachlich sehr fundiert und völlig unverbindlich - wir haben eine Menge mitgenommen.
Jakob ÖschlbergerInno7 GmbH