Lokale KI für Steuerkanzleien: §57/§62a StBerG, §203 und der RAG-Weg

KI in der Steuerkanzlei, ohne die Verschwiegenheit zu riskieren? Wir bauen lokale, §203-konforme KI auf Ihrer Hardware - siehe KI für Steuerberater und KI für Berufsgeheimnisträger, oder direkt ein Erstgespräch vereinbaren.

Belege erfassen, Mandanten-Mails vorqualifizieren, in BMF-Schreiben recherchieren - KI kann in der Steuerkanzlei enorm viel Zeit sparen. Das Problem ist nicht die KI, sondern wohin die Daten dabei fließen. Wer Mandantendaten in ChatGPT oder Copilot eingibt, übermittelt sie an Server Dritter. Das kann die steuerberatende Verschwiegenheit verletzen - mit straf- und berufsrechtlichen Folgen.

Die Bundessteuerberaterkammer hat dazu Anfang 2026 klar Position bezogen: Die Frage ist nicht, ob Kanzleien KI nutzen dürfen, sondern wie sie es rechtskonform tun. Dieser Beitrag ordnet die Rechtslage ein, zeigt die erlaubten Betriebsmodelle und erklärt, wie wir eine RAG-Pipeline auf Ihr Mandantenwissen bauen - lokal, sodass die Daten die Kanzlei nie verlassen.

Inhaltsverzeichnis

• Rechtslage 2026: §57 und §62a StBerG
• Warum Cloud-KI für Steuerkanzleien zum Risiko wird
• Betriebsmodelle für Kanzlei-KI
• Die RAG-Pipeline: Komponenten Schritt für Schritt
• Mehrere Wissensquellen sicher anbinden
• Unser Vorgehen bei WZ-IT
• Weiterführende Guides

Rechtslage 2026: §57 und §62a StBerG

Die Verschwiegenheit des Steuerberaters ist in §57 StBerG verankert und über §203 StGB strafbewehrt. Wichtig: Diese Pflicht ist weiter als der Datenschutz. Die BStBK betont, dass §57 StBerG nicht nur personenbezogene Daten schützt, sondern jede mandatsbezogene Information - sogar die Tatsache, dass ein Mandatsverhältnis besteht (BStBK FAQ-Katalog KI, Stand Januar 2026).

Für den Einsatz externer IT gilt die berufsspezifische Norm §62a StBerG. Sie erlaubt die Einbindung von Dienstleistern, knüpft sie aber an klare Bedingungen:

• Sorgfältige Auswahl des Dienstleisters und Beendigung bei Verstößen.
• Vertrag in Textform (§126b BGB) mit Verschwiegenheitsverpflichtung und Belehrung über die strafrechtlichen Folgen sowie Beschränkung auf die erforderlichen Informationen.
• Die Anforderungen gelten nach §62a Abs. 5 StBerG auch bei unmittelbar mandatsbezogener Leistung - hier mit Einwilligung des Mandanten.

Die BStBK unterscheidet im FAQ-Katalog ausdrücklich zwischen drei Stufen: der frei zugänglichen Browser-Version (für Mandantendaten ungeeignet), einem Business-Tarif mit AVV und einer dedizierten Plattform mit §203-Verschwiegenheitsvertrag. Mandantendaten gehören regelmäßig nicht in frei zugängliche KI-Dienste; bei sensiblen Daten ist die vorherige Einwilligung einzuholen.

Hinzu kommt der EU AI Act: Ab dem 2. August 2026 greifen Transparenzpflichten für Betreiber von KI-Systemen. Typische Kanzleianwendungen wie Beleg-Triage oder Korrespondenz-Entwürfe sind in der Regel keine Hochrisiko-Systeme; Governance-Strukturen sollten dennoch frühzeitig stehen (Stand Juni 2026, EU-Kommission). Dieser Beitrag ist allgemeine Information und keine Rechtsberatung.

Warum Cloud-KI für Steuerkanzleien zum Risiko wird

Cloud-KI ist nicht per se verboten - aber mit US-Anbietern in der Praxis kaum sauber abzubilden. Drei Punkte stehen im Weg:

1. Die Unterauftragnehmer-Kette. Ein KI-Anbieter nutzt selbst Unterauftragnehmer (Azure, AWS, weitere). Jeder müsste nach §62a StBerG in Textform verpflichtet werden. Bei einer langen, intransparenten Kette ist das praktisch nicht leistbar.
2. Der CLOUD Act. US-Anbieter unterliegen dem US CLOUD Act, der den Zugriff durch US-Behörden ermöglicht. Eine EU-Region schützt davor nicht, solange ein US-Mutterkonzern dahintersteht.
3. Training auf Ihren Daten. Viele Consumer-KI-Dienste verarbeiten Eingaben weiter - bei mandatsbezogenen Daten ein klarer Verstoß gegen §57 StBerG.

Die Auftragsverarbeitungsvereinbarung löst das nicht: Sie regelt den Datenschutz nach Art. 28 DSGVO, nicht die strafbewehrte Verschwiegenheit. AVV und §62a/§203-Verpflichtung sind getrennte Ebenen - beide müssen erfüllt sein.

Bei lokaler KI auf Ihrer Hardware entfällt der größte Teil dieser Kette: Die Daten verlassen die Kanzlei nicht. Durch unseren Fernwartungs- und Admin-Zugriff bleiben wir mitwirkende Person - deshalb liefern wir das §62a/§203-Vertragspaket für die Aufbau- und Wartungsphase mit.

Betriebsmodelle für Kanzlei-KI

Nicht jede Kanzlei braucht dasselbe Setup. Wir setzen drei Modelle um - mit klarem Bezug zu unseren Leistungen:

• On-Premise-Appliance (AI Cube). Eine schlüsselfertige KI-Box in Ihrer Kanzlei. Open WebUI, Ollama/vLLM und lokale Modelle sind vorinstalliert; ideal für kleine und mittlere Kanzleien. Die Daten bleiben im Haus.
• Dedizierter GPU-Server bzw. LLM-Hosting. Für größere Kanzleien mit mehr Nutzern und Durchsatz. Betrieb auf eigener Hardware oder in einem deutschen Rechenzentrum, OpenAI-kompatible API für die Integration in DATEV bzw. Ihre Kanzleisoftware.
• Managed-Fallback. Wer (noch) keine eigene Hardware betreiben will, kann KI in unserer EU-Infrastruktur betreiben lassen - mit kurzer, kontrollierbarer Dienstleisterkette statt US-Hyperscaler.

In allen Modellen kommen ausschließlich Open-Source-Bausteine zum Einsatz (kein Vendor Lock-in), und das §62a/§203-Vertragspaket ist Standard. Mehr zum branchenübergreifenden Rahmen unter KI für Berufsgeheimnisträger.

Die RAG-Pipeline: Komponenten Schritt für Schritt

Der eigentliche Wert entsteht nicht durch ein nacktes Sprachmodell, sondern durch Retrieval-Augmented Generation (RAG): Die KI beantwortet Fragen aus Ihren eigenen Dokumenten statt aus generischem Trainingswissen - mit Quellenbezug. So bauen wir die Pipeline (mehr unter Custom RAG):

1. Ingestion. Dokumente werden aus den Quellsystemen eingelesen (PDF, Belege, Mails, Scans mit OCR) und normalisiert.
2. Chunking. Die Inhalte werden in sinnvolle Abschnitte zerlegt - bei steuerlichen Texten an Paragrafen, Randziffern und Gliederungsebenen orientiert.
3. Embeddings + Vektordatenbank. Jeder Abschnitt wird in einen Vektor übersetzt und in einer Vektordatenbank (Qdrant) gespeichert - mit Zugriffs- und Mandantentrennungs-Metadaten.
4. Retrieval und Re-Ranking. Zu einer Anfrage werden die passendsten Abschnitte gesucht (semantisch plus Stichwort) und per Re-Ranking sortiert.
5. Generierung. Ein lokales Modell (Ollama oder vLLM, z. B. Mistral) formuliert die Antwort - ausschließlich auf Basis der gefundenen Stellen, mit Quellenangabe.
6. Observability und Qualität. Mit Langfuse messen wir Qualität, Latenz und Kosten und machen Antworten nachvollziehbar - wichtig für Audits.

Genau diesen Stack betreiben wir auch selbst: Unser KI-Angebotsfinder auf wz-it.com ist ein produktives RAG-System auf Qdrant, LiteLLM/Mistral und Langfuse.

Mehrere Wissensquellen sicher anbinden

Eine Kanzlei-KI ist nur so gut wie die Quellen, auf die sie zugreift. Wir binden mehrere Wissensquellen in dieselbe RAG-Pipeline ein - mit durchgesetzten Zugriffsrechten:

• Mandantenakten und DMS. Anbindung an Ihr Dokumentenmanagement und (über Integration) an DATEV.
• Belege und Buchungsdaten. Beleg-Erkennung, Klassifizierung und Vorkontierung als Grundlage.
• BMF-Schreiben und Rechtsprechung. Externe Fachquellen, soweit lizenzrechtlich zulässig, für die Recherche.
• Interne Vorlagen und Kanzlei-Know-how. Jahresabschluss-Anschreiben, Checklisten und Prozesse zentral durchsuchbar.

Entscheidend ist die Mandantentrennung: Über Zugriffsrechte und Payload-Filter in der Vektordatenbank sieht jede Anfrage nur die Quellen, die sie sehen darf. So bleibt Vertraulichkeit auch innerhalb der Kanzlei gewahrt - eine Anforderung, die generische Cloud-Tools nicht erfüllen.

Unser Vorgehen bei WZ-IT

Wir liefern Kanzlei-KI als Lebenszyklus, nicht als Gerätekauf:

1. Beraten und konzipieren. Workshop, Sizing, Datenklassifizierung und der §62a/§203-Vertragsrahmen - bevor Hardware ins Haus kommt.
2. Aufbauen und integrieren. On-Premise-Aufbau, RAG auf Ihren Dokumenten mit Zugriffskontrolle, Integration in DATEV bzw. die Kanzleisoftware, Geheimhaltungsverpflichtung plus AVV.
3. Betreiben und warten (optional). Updates, Monitoring, Modell-Upgrades und RAG-Pflege als Vertrag - oder Sie betreiben nach Übergabe und Schulung vollständig selbst.

Die operativen Vertragstexte werden fachkundig erstellt; dieser Beitrag ersetzt keine Rechtsberatung im Einzelfall.

Weiterführende Guides

• KI für Steuerberater - die Lösungsseite mit Use-Cases und Hardware-Optionen.
• KI für Berufsgeheimnisträger - der branchenübergreifende §203-Rahmen (auch für Anwälte, Ärzte und Notare).
• Custom RAG - wie wir RAG-Pipelines end-to-end bauen.
• KI-Hub - lokale KI-Infrastruktur, LLM-Hosting und RAG im Überblick.

Bereit für KI, die Ihre Mandanten schützt? Wir bauen sie lokal, §62a/§203-konform und betreiben sie auf Wunsch. Jetzt Erstgespräch vereinbaren.

Quellen

• §57 StBerG (Allgemeine Berufspflichten / Verschwiegenheit)
• §62a StBerG (Inanspruchnahme von Dienstleistungen)
• §203 StGB (Verletzung von Privatgeheimnissen)
• BStBK: FAQ-Katalog KI im steuerberatenden Berufsstand (Stand Januar 2026)
• Europäische Kommission: Regulatory framework on AI (EU AI Act)