Lokale KI für Steuerkanzleien: §57/§62a StBerG, §203 und der RAG-Weg

KI in der Steuerkanzlei, ohne die Verschwiegenheit zu riskieren? Wir bauen lokale, §203-konforme KI auf Ihrer Hardware - siehe KI für Steuerberater und KI für Berufsgeheimnisträger, oder direkt ein Erstgespräch vereinbaren. Ohne eigene Hardware gibt es die gehostete Variante: KI-Plattform für Steuerkanzleien.

Belege erfassen, Mandanten-Mails vorqualifizieren, in BMF-Schreiben recherchieren - KI kann in der Steuerkanzlei enorm viel Zeit sparen. Das Problem ist nicht die KI, sondern wohin die Daten dabei fließen. Wer Mandantendaten in ChatGPT oder Copilot eingibt, übermittelt sie an Server Dritter. Das kann die steuerberatende Verschwiegenheit verletzen - mit straf- und berufsrechtlichen Folgen.

Die Bundessteuerberaterkammer hat dazu Anfang 2026 einen FAQ-Katalog zu KI veröffentlicht. Er zeigt: Entscheidend ist weniger, ob Kanzleien KI nutzen, sondern wie sie es rechtskonform tun. Dieser Beitrag ordnet die Rechtslage ein, zeigt die erlaubten Betriebsmodelle und erklärt, wie wir eine RAG-Pipeline auf Ihr Mandantenwissen bauen - lokal, sodass die Daten die Kanzlei nie verlassen.

Inhaltsverzeichnis

• Rechtslage 2026: §57 und §62a StBerG
• Warum Cloud-KI für Steuerkanzleien zum Risiko wird
• Betriebsmodelle für Kanzlei-KI
• Die RAG-Pipeline: Komponenten Schritt für Schritt
• Mehrere Wissensquellen sicher anbinden
• Unser Vorgehen bei WZ-IT
• Weiterführende Guides

Rechtslage 2026: §57 und §62a StBerG

Die Verschwiegenheit des Steuerberaters ist in §57 StBerG verankert und über §203 StGB strafbewehrt. Wichtig: Diese Pflicht ist weiter als der Datenschutz. §57 StBerG schützt nicht nur personenbezogene Daten, sondern alles, was der Steuerberater in Ausübung seines Berufs erfährt. Nach unserer Einschätzung gehört dazu auch die Tatsache, dass ein Mandatsverhältnis besteht.

Für den Einsatz externer IT gilt die berufsspezifische Norm §62a StBerG. Sie erlaubt die Einbindung von Dienstleistern, knüpft sie aber an klare Bedingungen:

• Sorgfältige Auswahl des Dienstleisters und Beendigung bei Verstößen.
• Vertrag in Textform (§126b BGB) mit Verschwiegenheitsverpflichtung und Belehrung über die strafrechtlichen Folgen sowie Beschränkung auf die erforderlichen Informationen.
• Die Anforderungen gelten nach §62a Abs. 5 StBerG auch bei unmittelbar mandatsbezogener Leistung - hier mit Einwilligung des Mandanten.

Der BStBK-FAQ-Katalog KI (Stand 27.01.2026) unterscheidet zwischen kostenlosen Anwendungen und Business-Accounts, bei denen sich das Training auf Eingaben abschalten lässt. Er bevorzugt KI-Funktionen der Anbieter von Steuer- und Kanzleisoftware und arbeitet mit Vertraulichkeitsstufen für die eingegebenen Daten. Vor der Eingabe sensibler Daten empfiehlt die BStBK die Einwilligung des Mandanten, andernfalls eine Anonymisierung oder Pseudonymisierung.

Hinzu kommt der EU AI Act: Seit dem 2. August 2026 gelten die Transparenzpflichten nach Art. 50. Typische Kanzleianwendungen wie Beleg-Triage oder Korrespondenz-Entwürfe sind in der Regel keine Hochrisiko-Systeme. Die Hochrisiko-Pflichten greifen nach dem Digital-Omnibus (Verordnung (EU) 2026/1744) für Anhang III ab dem 2. Dezember 2027 und für Anhang I ab dem 2. August 2028; Governance-Strukturen sollten dennoch frühzeitig stehen (Stand Oktober 2026). Dieser Beitrag ist allgemeine Information und keine Rechtsberatung.

Warum Cloud-KI für Steuerkanzleien zum Risiko wird

Cloud-KI ist nicht per se verboten - aber mit US-Anbietern in der Praxis kaum sauber abzubilden. Drei Punkte stehen im Weg:

1. Die Unterauftragnehmer-Kette. Ein KI-Anbieter nutzt selbst Unterauftragnehmer (Azure, AWS, weitere). Jeder müsste nach §62a StBerG in Textform verpflichtet werden. Bei einer langen, intransparenten Kette ist das praktisch nicht leistbar.
2. Der CLOUD Act. US-Anbieter unterliegen dem US CLOUD Act, der den Zugriff durch US-Behörden ermöglicht. Eine EU-Region schützt davor nicht, solange ein US-Mutterkonzern dahintersteht.
3. Training auf Ihren Daten. Viele Consumer-KI-Dienste verarbeiten Eingaben weiter - bei mandatsbezogenen Daten ein klarer Verstoß gegen §57 StBerG.

Die Auftragsverarbeitungsvereinbarung löst das nicht: Sie regelt den Datenschutz nach Art. 28 DSGVO, nicht die strafbewehrte Verschwiegenheit. AVV und §62a/§203-Verpflichtung sind getrennte Ebenen - beide müssen erfüllt sein.

Bei lokaler KI auf Ihrer Hardware entfällt der größte Teil dieser Kette: Die Daten verlassen die Kanzlei nicht. Durch unseren Fernwartungs- und Admin-Zugriff bleiben wir mitwirkende Person - deshalb bieten wir das §62a/§203-Vertragspaket für die Aufbau- und Wartungsphase optional an.

Betriebsmodelle für Kanzlei-KI

Nicht jede Kanzlei braucht dasselbe Setup. Wir setzen drei Modelle um - mit klarem Bezug zu unseren Leistungen:

• On-Premise-Appliance (AI Cube). Eine schlüsselfertige KI-Box in Ihrer Kanzlei. Open WebUI, Ollama/vLLM und lokale Modelle sind vorinstalliert; ideal für kleine und mittlere Kanzleien. Die Daten bleiben im Haus.
• Dedizierter GPU-Server bzw. LLM-Hosting. Für größere Kanzleien mit mehr Nutzern und Durchsatz. Betrieb auf eigener Hardware oder in einem deutschen Rechenzentrum, OpenAI-kompatible API für die Integration in DATEV bzw. Ihre Kanzleisoftware.
• Gehostete KI-Plattform für Steuerkanzleien. Wer (noch) keine eigene Hardware betreiben will, bekommt eine eigene Instanz mit Open WebUI und in Deutschland bei deutschen Anbietern betriebenen Modellen, AVV und §203-Zusatzvereinbarung inklusive - mit kurzer, kontrollierbarer Dienstleisterkette statt US-Hyperscaler.

In allen Modellen kommen ausschließlich Open-Source-Bausteine zum Einsatz (kein Vendor Lock-in), und das §62a/§203-Vertragspaket ist bei lokalen Modellen optional erhältlich, bei der KI-Plattform enthalten. Mehr zum branchenübergreifenden Rahmen unter KI für Berufsgeheimnisträger.

Die RAG-Pipeline: Komponenten Schritt für Schritt

Der eigentliche Wert entsteht nicht durch ein nacktes Sprachmodell, sondern durch Retrieval-Augmented Generation (RAG): Die KI beantwortet Fragen aus Ihren eigenen Dokumenten statt aus generischem Trainingswissen - mit Quellenbezug. So bauen wir die Pipeline (mehr unter Custom RAG):

1. Ingestion. Dokumente werden aus den Quellsystemen eingelesen (PDF, Belege, Mails, Scans mit OCR) und normalisiert.
2. Chunking. Die Inhalte werden in sinnvolle Abschnitte zerlegt - bei steuerlichen Texten an Paragrafen, Randziffern und Gliederungsebenen orientiert.
3. Embeddings + Vektordatenbank. Jeder Abschnitt wird in einen Vektor übersetzt und in einer Vektordatenbank (Qdrant) gespeichert - mit Zugriffs- und Mandantentrennungs-Metadaten.
4. Retrieval und Re-Ranking. Zu einer Anfrage werden die passendsten Abschnitte gesucht (semantisch plus Stichwort) und per Re-Ranking sortiert.
5. Generierung. Ein lokales Modell (Ollama oder vLLM, z. B. Mistral) formuliert die Antwort - ausschließlich auf Basis der gefundenen Stellen, mit Quellenangabe.
6. Observability und Qualität. Mit Langfuse messen wir Qualität, Latenz und Kosten und machen Antworten nachvollziehbar - wichtig für Audits.

Genau diesen Stack betreiben wir auch selbst: Unser KI-Angebotsfinder auf wz-it.com ist ein produktives RAG-System auf Qdrant, LiteLLM/Mistral und Langfuse.

Mehrere Wissensquellen sicher anbinden

Eine Kanzlei-KI ist nur so gut wie die Quellen, auf die sie zugreift. Wir binden mehrere Wissensquellen in dieselbe RAG-Pipeline ein - mit durchgesetzten Zugriffsrechten:

• Mandantenakten und DMS. Anbindung an Ihr Dokumentenmanagement und (über Integration) an DATEV.
• Belege und Buchungsdaten. Beleg-Erkennung, Klassifizierung und Vorkontierung als Grundlage.
• BMF-Schreiben und Rechtsprechung. Externe Fachquellen, soweit lizenzrechtlich zulässig, für die Recherche.
• Interne Vorlagen und Kanzlei-Know-how. Jahresabschluss-Anschreiben, Checklisten und Prozesse zentral durchsuchbar.

Entscheidend ist die Mandantentrennung: Über Zugriffsrechte und Payload-Filter in der Vektordatenbank sieht jede Anfrage nur die Quellen, die sie sehen darf. So bleibt Vertraulichkeit auch innerhalb der Kanzlei gewahrt - eine Anforderung, die generische Cloud-Tools nicht erfüllen.

Unser Vorgehen bei WZ-IT

Wir liefern Kanzlei-KI als Lebenszyklus, nicht als Gerätekauf:

1. Beraten und konzipieren. Workshop, Sizing, Datenklassifizierung und der §62a/§203-Vertragsrahmen - bevor Hardware ins Haus kommt.
2. Aufbauen und integrieren. On-Premise-Aufbau, RAG auf Ihren Dokumenten mit Zugriffskontrolle, Integration in DATEV bzw. die Kanzleisoftware, Geheimhaltungsverpflichtung plus AVV.
3. Betreiben und warten (optional). Updates, Monitoring, Modell-Upgrades und RAG-Pflege als Vertrag - oder Sie betreiben nach Übergabe und Schulung vollständig selbst.

Die operativen Vertragstexte werden fachkundig erstellt; dieser Beitrag ersetzt keine Rechtsberatung im Einzelfall.

Weiterführende Guides

• KI für Steuerberater - die Lösungsseite mit Use-Cases und Hardware-Optionen.
• KI für Berufsgeheimnisträger - der branchenübergreifende §203-Rahmen (auch für Anwälte, Ärzte und Notare).
• Custom RAG - wie wir RAG-Pipelines end-to-end bauen.
• KI-Hub - lokale KI-Infrastruktur, LLM-Hosting und RAG im Überblick.

Bereit für KI, die Ihre Mandanten schützt? Wir bauen sie lokal, §62a/§203-konform und betreiben sie auf Wunsch. Jetzt Erstgespräch vereinbaren.

Quellen

• §57 StBerG (Allgemeine Berufspflichten / Verschwiegenheit)
• §62a StBerG (Inanspruchnahme von Dienstleistungen)
• §203 StGB (Verletzung von Privatgeheimnissen)
• BStBK: FAQ-Katalog KI im steuerberatenden Berufsstand (Stand 27.01.2026)
• Europäische Kommission: Regulatory framework on AI (EU AI Act)
• Verordnung (EU) 2026/1744 (Digital-Omnibus zur KI-Verordnung)