Lokale KI für Anwaltskanzleien: §43e BRAO, §203 StGB und der RAG-Weg

KI in der Kanzlei, ohne die Verschwiegenheit zu riskieren? Wir bauen lokale, §203-konforme KI auf Ihrer Hardware - siehe KI für Anwaltskanzleien und KI für Berufsgeheimnisträger, oder direkt ein Erstgespräch vereinbaren.

Mandanten-Mails zusammenfassen, Schriftsätze entwerfen, in Präzedenzfällen recherchieren - KI kann in der Kanzlei viel Zeit sparen. Das Problem ist nicht die KI, sondern wohin die Daten dabei fließen. Wer Mandantendaten in ChatGPT oder Copilot eingibt, übermittelt sie an Server Dritter. Das kann die anwaltliche Verschwiegenheit verletzen - mit straf- und berufsrechtlichen Folgen.

Die gute Nachricht: Seit der §203-Reform 2017 und mit §43e BRAO gibt es einen klaren, legalen Weg. Er führt über einen verpflichteten Dienstleister - und am saubersten über lokale KI, die die Kanzlei nie verlässt. Dieser Beitrag ordnet die Rechtslage ein, zeigt die erlaubten Betriebsmodelle und erklärt, wie wir eine RAG-Pipeline auf Ihr Mandatswissen bauen.

Inhaltsverzeichnis

• Rechtslage 2026: §43e BRAO und §203 StGB
• Warum Cloud-KI für Kanzleien zum Risiko wird
• Betriebsmodelle für Kanzlei-KI
• Die RAG-Pipeline: Komponenten Schritt für Schritt
• Mehrere Wissensquellen sicher anbinden
• Unser Vorgehen bei WZ-IT
• Weiterführende Guides

Rechtslage 2026: §43e BRAO und §203 StGB

Die anwaltliche Verschwiegenheit ist in §43a Abs. 2 BRAO verankert und über §203 StGB strafbewehrt; §2 BORA konkretisiert sie. Die unbefugte Offenbarung eines Mandantengeheimnisses ist strafbar - bis zu einem Jahr Freiheitsstrafe, bei Handeln gegen Entgelt bis zu zwei Jahre.

Für den Einsatz externer IT gilt seit 2017 die anwaltsspezifische Norm §43e BRAO. Sie erlaubt die Einbindung von Dienstleistern ausdrücklich, knüpft sie aber an klare Bedingungen:

• Sorgfältige Auswahl und Beendigungspflicht (Abs. 2): Der Dienstleister ist sorgfältig auszuwählen; bei Verstößen ist die Zusammenarbeit unverzüglich zu beenden.
• Vertrag in Textform mit Mindestinhalt (Abs. 3): Verschwiegenheitsverpflichtung mit Belehrung über die strafrechtlichen Folgen, Beschränkung auf die für die Leistung erforderlichen Informationen (Zweckbindung) und klare Regelung, ob und wie Unterauftragnehmer eingebunden werden - die dann ebenfalls in Textform zu verpflichten sind.
• Auslandsbezug (Abs. 4): Ein ausländischer Dienstleister darf nur Zugang erhalten, wenn der dortige Geheimnisschutz dem inländischen vergleichbar ist.
• Mandatsbezogene Leistungen (Abs. 5): Hier ist die Einwilligung des Mandanten erforderlich.

Die Bundesrechtsanwaltskammer hat in ihrem Leitfaden zum KI-Einsatz (Dezember 2024) klargestellt: Ein KI-Tool, das Mandantendaten zur Modellverbesserung speichert oder weitergibt, verstößt gegen §43a Abs. 2 BRAO. Die Übermittlung von Mandantendaten an öffentliche KI-Dienste sei regelmäßig nicht erforderlich, weil sich die Aufgabe anders lösen lasse - etwa lokal.

Hinzu kommt der EU AI Act: Ab dem 2. August 2026 greifen Transparenzpflichten für Betreiber von KI-Systemen (Art. 50). Typische Kanzleianwendungen wie Schriftsatz-Entwürfe oder Recherche sind in der Regel keine Hochrisiko-Systeme; Governance-Strukturen sollten dennoch frühzeitig stehen (Stand Juni 2026, EU-Kommission). Dieser Beitrag ist allgemeine Information und keine Rechtsberatung.

Warum Cloud-KI für Kanzleien zum Risiko wird

Cloud-KI ist unter §43e BRAO nicht per se verboten - aber in der Praxis mit US-Anbietern kaum sauber abzubilden. Drei Punkte stehen im Weg:

1. Die Unterauftragnehmer-Kette. Ein KI-Anbieter nutzt selbst Unterauftragnehmer (Azure, AWS, weitere). Nach §43e Abs. 3 müssten alle in Textform verpflichtet werden. Bei einer langen, intransparenten Kette ist das praktisch nicht leistbar.
2. Der CLOUD Act. US-Anbieter unterliegen dem US CLOUD Act, der den Zugriff durch US-Behörden ermöglicht. Eine EU-Region schützt davor nicht, solange ein US-Mutterkonzern dahintersteht - was §43e Abs. 4 (vergleichbarer Geheimnisschutz) infrage stellt.
3. Training auf Ihren Daten. Viele Consumer-KI-Dienste verarbeiten Eingaben weiter. Genau das hat die BRAK als Verstoß gegen die Verschwiegenheit markiert.

Die Auftragsverarbeitungsvereinbarung (AVV) löst das nicht: Sie regelt den Datenschutz nach Art. 28 DSGVO, nicht die strafbewehrte Verschwiegenheit. AVV und §43e/§203-Verpflichtung sind zwei getrennte Ebenen - beide müssen erfüllt sein.

Bei lokaler KI auf Ihrer Hardware entfällt der größte Teil dieser Kette: Die Daten verlassen die Kanzlei nicht. Durch unseren Fernwartungs- und Admin-Zugriff bleiben wir mitwirkende Person - deshalb liefern wir das §43e/§203-Vertragspaket für die Aufbau- und Wartungsphase mit.

Betriebsmodelle für Kanzlei-KI

Nicht jede Kanzlei braucht dasselbe Setup. Wir setzen drei Modelle um - mit klarem Bezug zu unseren Leistungen:

• On-Premise-Appliance (AI Cube). Eine schlüsselfertige KI-Box in Ihrer Kanzlei. Open WebUI, Ollama/vLLM und lokale Modelle sind vorinstalliert; ideal für Einzelkanzleien und kleine Sozietäten. Die Daten bleiben im Haus, optional sogar air-gapped.
• Dedizierter GPU-Server bzw. LLM-Hosting. Für größere Häuser mit mehr Nutzern und Durchsatz. Betrieb auf eigener Hardware oder in einem deutschen Rechenzentrum, OpenAI-kompatible API für die Integration in die Kanzleisoftware.
• Managed-Fallback. Wer (noch) keine eigene Hardware betreiben will, kann KI in unserer EU-Infrastruktur betreiben lassen. Das ist die zweitbeste, aber praktikable Option - mit kurzer, kontrollierbarer Dienstleisterkette statt US-Hyperscaler.

In allen Modellen kommen ausschließlich Open-Source-Bausteine zum Einsatz (kein Vendor Lock-in), und das §43e/§203-Vertragspaket (Geheimhaltungsverpflichtung mit Strafbelehrung plus AVV) ist Standard. Mehr zum branchenübergreifenden Rahmen unter KI für Berufsgeheimnisträger.

Die RAG-Pipeline: Komponenten Schritt für Schritt

Der eigentliche Wert entsteht nicht durch ein nacktes Sprachmodell, sondern durch Retrieval-Augmented Generation (RAG): Die KI beantwortet Fragen aus Ihren eigenen Dokumenten statt aus generischem Trainingswissen - mit Quellenbezug. So bauen wir die Pipeline (mehr unter Custom RAG):

1. Ingestion. Dokumente werden aus den Quellsystemen eingelesen (PDF, Word, Mails, Scans mit OCR) und normalisiert.
2. Chunking. Die Inhalte werden in sinnvolle Abschnitte zerlegt - bei juristischen Texten an Paragrafen, Randnummern und Gliederungsebenen orientiert, damit Kontext erhalten bleibt.
3. Embeddings + Vektordatenbank. Jeder Abschnitt wird in einen Vektor übersetzt und in einer Vektordatenbank (Qdrant) gespeichert. Hier liegen auch die Zugriffs- und Mandantentrennungs-Metadaten.
4. Retrieval und Re-Ranking. Zu einer Anfrage werden die passendsten Abschnitte gesucht (semantisch plus Stichwort) und per Re-Ranking sortiert, damit wirklich die relevantesten Stellen in den Kontext kommen.
5. Generierung. Ein lokales Modell (Ollama oder vLLM, z. B. Mistral) formuliert die Antwort - ausschließlich auf Basis der gefundenen Stellen, mit Quellenangabe.
6. Observability und Qualität. Mit Langfuse messen wir Qualität, Latenz und Kosten und stellen die Antworten nachvollziehbar dar - wichtig für Audits und kontinuierliche Verbesserung.

Genau diesen Stack betreiben wir auch selbst: Unser KI-Angebotsfinder auf wz-it.com ist ein produktives RAG-System auf Qdrant, LiteLLM/Mistral und Langfuse. Wir bauen also kein Demo-RAG, sondern eines, das wir im Echtbetrieb verantworten.

Mehrere Wissensquellen sicher anbinden

Eine Kanzlei-KI ist nur so gut wie die Quellen, auf die sie zugreift. Wir binden mehrere Wissensquellen in dieselbe RAG-Pipeline ein - mit durchgesetzten Zugriffsrechten:

• Mandatsakten und DMS. Anbindung an Ihr Dokumentenmanagement, damit die KI im konkreten Mandatswissen recherchieren kann.
• Schriftsatz- und Vertragsvorlagen. Eigene Muster und Textbausteine als Grundlage für konsistente Entwürfe.
• Interne Wissensdatenbank. Kanzlei-Know-how, Checklisten und Prozesse zentral durchsuchbar.
• Rechtsprechung und Kommentarliteratur. Soweit lizenzrechtlich zulässig, lassen sich externe Quellen ergänzen.

Entscheidend ist die Mandantentrennung: Über Zugriffsrechte und Payload-Filter in der Vektordatenbank sieht jede Anfrage nur die Quellen, die sie sehen darf. So bleibt Vertraulichkeit auch innerhalb der Kanzlei gewahrt - eine Anforderung, die generische Cloud-Tools nicht erfüllen.

Unser Vorgehen bei WZ-IT

Wir liefern Kanzlei-KI als Lebenszyklus, nicht als Gerätekauf:

1. Beraten und konzipieren. Workshop, Sizing, Datenklassifizierung und der §43e/§203-Vertragsrahmen - bevor Hardware ins Haus kommt.
2. Aufbauen und integrieren. On-Premise-Aufbau, RAG auf Ihren Dokumenten mit Zugriffskontrolle, Integration in die Kanzleisoftware, Geheimhaltungsverpflichtung plus AVV.
3. Betreiben und warten (optional). Updates, Monitoring, Modell-Upgrades und RAG-Pflege als Vertrag - oder Sie betreiben nach Übergabe und Schulung vollständig selbst.

Die operativen Vertragstexte (Geheimhaltungsvereinbarung mit Strafbelehrung) werden anwaltlich erstellt; dieser Beitrag ersetzt keine Rechtsberatung im Einzelfall.

Weiterführende Guides

• KI für Anwaltskanzleien - die Lösungsseite mit Use-Cases und Hardware-Optionen.
• KI für Berufsgeheimnisträger - der branchenübergreifende §203-Rahmen (auch für Steuerberater, Ärzte und Notare).
• Custom RAG - wie wir RAG-Pipelines end-to-end bauen.
• KI-Hub - lokale KI-Infrastruktur, LLM-Hosting und RAG im Überblick.

Bereit für KI, die Ihre Mandanten schützt? Wir bauen sie lokal, §43e/§203-konform und betreiben sie auf Wunsch. Jetzt Erstgespräch vereinbaren.

Quellen

• §43e BRAO (Inanspruchnahme von Dienstleistungen)
• §43a BRAO (Grundpflichten / Verschwiegenheit)
• §203 StGB (Verletzung von Privatgeheimnissen)
• §2 BORA (Verschwiegenheit)
• BRAK: Hinweise zum Einsatz von KI (Stand Dezember 2024)
• Europäische Kommission: Regulatory framework on AI (EU AI Act)