EU AI Act in der Steuerkanzlei: Welche Pflichten greifen

Der AI Act wird in Kanzleien meist zu groß gedacht. Für den typischen Einsatz gilt weniger, als befürchtet, und an einer Stelle mehr, als bekannt ist.

Die Systematik

Die Verordnung reguliert nicht Technik, sondern Anwendungen. Dasselbe Verfahren kann je nach Einsatzzweck unreguliert oder streng reguliert sein. Vier Stufen:

Verboten. Praktiken wie das Bewerten sozialen Verhaltens durch Behörden oder bestimmte Formen biometrischer Überwachung. Für Kanzleien ohne Relevanz.

Hochrisiko. Systeme in bestimmten Einsatzbereichen, unter anderem Personalauswahl und Personalverwaltung, Kreditwürdigkeitsprüfung, Zugang zu Bildung, kritische Infrastruktur, Strafverfolgung. Hier gelten umfangreiche Pflichten für Anbieter und, in geringerem Umfang, für Betreiber.

Begrenztes Risiko. Transparenzpflichten, etwa wenn Menschen mit einem System interagieren oder Inhalte künstlich erzeugt werden.

Minimales Risiko. Der Rest, ohne besondere Pflichten aus der Verordnung.

Warum die Einordnung am Zweck hängt und nicht am Produkt

Die Verordnung knüpft an den Einsatzzweck an, und das hat eine Folge, die in der Praxis unterschätzt wird: Dasselbe eingekaufte Produkt kann in einer Kanzlei unreguliert und in einer anderen streng reguliert sein, je nachdem, wofür es verwendet wird.

Ein Beispiel aus dem Alltag. Ein Werkzeug zur Textanalyse, das üblicherweise Vertragsentwürfe zusammenfasst, ist in dieser Verwendung unproblematisch. Wird dasselbe Werkzeug eingesetzt, um eingehende Bewerbungsunterlagen zu bewerten und eine Rangfolge zu erzeugen, liegt eine Verwendung im Beschäftigungsbereich vor, und die Betreiberpflichten für Hochrisikosysteme kommen in Betracht. Der Anbieter hat sein Produkt nicht geändert, die Kanzlei ihre Verwendung schon.

Daraus ergeben sich zwei praktische Konsequenzen.

Erstens ist eine Aussage des Anbieters zur Einordnung seines Produkts hilfreich, aber nicht abschließend. Sie beschreibt die vorgesehene Zweckbestimmung. Weicht die tatsächliche Verwendung davon ab, trägt die Einordnung nicht mehr, und die Verantwortung für diese Abweichung liegt beim Betreiber.

Zweitens gehört zur internen Regelung nicht nur, welche Werkzeuge freigegeben sind, sondern wofür. Eine Freigabe ohne Zweckbindung erlaubt genau die Verwendung, die die Einordnung kippt, und niemand bemerkt es, weil kein neues Produkt beschafft wurde.

Für den Regelfall der Belegverarbeitung bleibt die Frage einfach, weil der Zweck eng ist und sich nicht unbemerkt verschiebt. Für allgemein verwendbare Textwerkzeuge ist sie es nicht, und genau dort lohnt eine ausdrückliche Festlegung.

Wo die Buchhaltungs-KI landet

Eine Software, die Belege ausliest, Kontierungen vorschlägt und Buchungsstapel erzeugt, wird in keinem der Hochrisikobereiche eingesetzt. Sie entscheidet nicht über den Zugang einer Person zu Beschäftigung, Bildung oder Kredit und betreibt keine kritische Infrastruktur.

Sie fällt damit in aller Regel in die unterste Stufe. Das bedeutet nicht, dass ihr Einsatz unreguliert wäre. Es bedeutet nur, dass die Pflichten aus anderen Rechtsgebieten kommen, nämlich aus der DSGVO, aus dem Berufsrecht mit § 203 StGB und § 57 StBerG, und aus den GoBD.

Diese Einordnung ist keine Entwarnung, sondern eine Wegweisung: Der Prüfaufwand vor der Einführung liegt bei Datenschutz und Verschwiegenheit, nicht beim AI Act.

Eine Einordnung der Werkzeuge, die typischerweise im Haus sind

Die Systematik wird greifbarer, wenn man sie auf den tatsächlichen Bestand einer Kanzlei anwendet. Die folgende Übersicht ist eine Orientierung und ersetzt die Prüfung des Einzelfalls nicht, weil es immer auf den konkreten Einsatzzweck ankommt und nicht auf die Produktkategorie.

Die untersten beiden Zeilen sind für Kanzleien die einzigen, bei denen sich die Pflichtenlage grundlegend ändert, und sie liegen beide außerhalb der Mandatsarbeit. Das ist die praktisch wichtigste Erkenntnis aus der Systematik: Der Bereich, über den in Kanzleien am meisten gesprochen wird, ist der harmloseste, und der Bereich, über den kaum gesprochen wird, ist der regulierte.

Die dritte und vierte Zeile verdienen eine Ergänzung. Die Transparenzanforderungen im Bereich des begrenzten Risikos knüpfen daran an, dass Menschen mit einem System interagieren oder dass Inhalte künstlich erzeugt werden. Für eine Kanzlei bedeutet das im Regelfall: Wer eine Chatfunktion einsetzt, sollte kenntlich machen, dass die Antworten maschinell erzeugt werden. Ein internes Werkzeug, dessen Ergebnisse ein Berufsträger prüft und verantwortet, bevor sie das Haus verlassen, ist ein anderer Fall.

Was die Betreiberrolle konkret bedeutet

Der Begriff des Betreibers klingt nach mehr, als er im Regelfall verlangt. Für ein System mit minimalem Risiko folgen aus der Verordnung keine besonderen Pflichten, mit Ausnahme der KI-Kompetenz. Das ist der Grund, warum der Aufwand für die typische Kanzlei überschaubar bleibt.

Anders sieht es aus, sobald ein Hochrisikosystem eingesetzt wird. Dann treffen den Betreiber eigene Pflichten, die neben denen des Anbieters stehen. Dazu gehören unter anderem der Einsatz entsprechend den Anweisungen des Anbieters, eine menschliche Aufsicht durch Personen, die dafür geeignet und befugt sind, die Überwachung des Betriebs und die Aufbewahrung der automatisch erzeugten Protokolle, soweit sie in der Verfügungsgewalt des Betreibers liegen.

Für die Praxis heißt das: Wer ein Werkzeug zur Bewerbervorauswahl einsetzt, muss benennen können, wer die Aufsicht führt, wie diese Person geschult ist und wo die Protokolle liegen. Das ist keine Formalie, weil die Aufsicht wirksam sein muss und nicht nur benannt. Eine Person, die zwanzig Vorauswahlen am Tag bestätigt, ohne die Grundlage nachvollziehen zu können, erfüllt die Anforderung nicht.

Der pragmatische Schluss daraus lautet für viele Kanzleien, im Personalbereich bewusst auf solche Werkzeuge zu verzichten, solange der Nutzen gering ist. Das ist eine zulässige und in der Sache oft die einfachste Antwort, denn die Bewerberzahl der meisten Kanzleien rechtfertigt den Aufwand nicht.

Der Zusammenhang mit den übrigen Pflichten

Die Verordnung steht nicht allein. Wer ein System einführt, prüft in der Praxis vier Ebenen, und der AI Act ist in der Regel die schmalste davon.

Die Verordnung selbst. Einordnung des Systems, KI-Kompetenz, gegebenenfalls Transparenz. Für die Belegverarbeitung ist das nach kurzer Prüfung erledigt.

Der Datenschutz. Rechtsgrundlage, Auftragsverarbeitungsvertrag, Unterauftragnehmer, Verarbeitungsort, Löschkonzept, gegebenenfalls eine Datenschutz-Folgenabschätzung. Diese Ebene erzeugt den größten Teil der Unterlagen.

Das Berufsrecht. Die Verschwiegenheit nach § 203 StGB und § 57 StBerG mit der Verpflichtung des Dienstleisters, der Beschränkung auf das Erforderliche und der dokumentierten Auswahl. Diese Ebene wird am häufigsten übersehen, weil sie sich hinter dem Datenschutzvertrag versteckt.

Die Ordnungsmäßigkeit. Nachvollziehbarkeit, Unveränderbarkeit, Protokollierung und Verfahrensdokumentation nach den GoBD. Diese Ebene betrifft nicht die KI, sondern das Buchführungsverfahren insgesamt, und sie ändert sich durch den Einsatz eines Vorsystems.

Wer die vier Ebenen in dieser Reihenfolge abarbeitet, stellt fest, dass die Fragen sich überschneiden, die Nachweise aber nicht austauschbar sind. Ein Anbieter, der auf jede Frage mit dem Hinweis auf seinen Auftragsverarbeitungsvertrag antwortet, hat eine der vier Ebenen bedient.

Die Pflicht, die alle trifft

Es gibt eine Vorschrift, die unabhängig von der Risikoklasse gilt und deshalb auch für die harmloseste Anwendung greift: die KI-Kompetenz.

Betreiber müssen dafür sorgen, dass die Personen, die in ihrem Auftrag mit KI-Systemen arbeiten, über ausreichende Kenntnisse verfügen, um sie sachkundig einzusetzen und die Ergebnisse einzuordnen. Der Maßstab richtet sich nach den Vorkenntnissen der Beteiligten, dem Einsatzkontext und den betroffenen Personen.

Eine bestimmte Form ist nicht vorgeschrieben. Es gibt keinen vorgeschriebenen Kurs und kein Zertifikat. Angemessen ist, was zur Anwendung passt.

Für eine Kanzlei, die eine Belegverarbeitung einsetzt, heißt das praktisch: Die Mitarbeiter, die mit Buchungsvorschlägen arbeiten, sollten wissen, wie diese Vorschläge entstehen, wo die Grenzen liegen und warum ein Vorschlag geprüft werden muss. Das ist ohnehin die Voraussetzung dafür, dass die Arbeit fachlich stimmt.

Bewährt hat sich, das einmal schriftlich festzuhalten: welche Systeme im Einsatz sind, wer damit arbeitet, was vermittelt wurde und wann. Ein bis zwei Seiten genügen, und sie beantworten die Frage, falls sie gestellt wird.

Wie sich KI-Kompetenz praktisch vermitteln lässt

Weil keine Form vorgeschrieben ist, entsteht Unsicherheit darüber, was genügt. Die Antwort ergibt sich aus dem Zweck: Die Beteiligten sollen ein Ergebnis einordnen können. Für eine Buchhaltungskraft, die täglich mit Kontierungsvorschlägen arbeitet, heißt das etwas anderes als für eine Sekretariatskraft, die gelegentlich einen Text zusammenfassen lässt.

Bewährt hat sich ein Zuschnitt nach Rolle mit jeweils wenigen Inhalten.

Der wirksamste Inhalt für die erste Zeile ist zugleich der, der ohnehin fachlich nötig ist: die Unterscheidung, aus welcher Quelle ein Vorschlag stammt. Wer weiß, dass eine Zuordnung aus einer hinterlegten Lieferantenvorgabe kommt und eine andere aus einer Auswertung der bisherigen Buchungen, prüft unterschiedlich genau und kann begründen, warum. Das ist genau die Einordnungsfähigkeit, auf die die Vorschrift zielt. Wie diese Quellen zustande kommen, ist in Wie eine Buchhaltungs-KI aus Korrekturen lernt beschrieben.

Für die Dokumentation genügt eine Tabelle mit vier Spalten: Datum, Teilnehmer, Inhalt, Dauer. Sie wird bei jeder Schulung fortgeschrieben und beantwortet die Frage, falls sie gestellt wird. Ein Zertifikat ist nicht vorgeschrieben und ersetzt die Zuschnittsfrage auch nicht, denn ein allgemeiner Kurs vermittelt selten, wie die im Haus eingesetzten Werkzeuge arbeiten.

Ein Punkt wird dabei regelmäßig unterschätzt: Die Kompetenz veraltet mit dem Werkzeug. Wird die Software gewechselt oder erhält sie neue Funktionen, ist der Inhalt der Schulung nicht mehr aktuell. Eine kurze Auffrischung bei jeder wesentlichen Änderung ist deutlich weniger Aufwand als ein Nachholen nach zwei Jahren.

Wo es doch Hochrisiko wird

Ein Punkt, der in Kanzleien übersehen wird, weil er nichts mit der Mandatsarbeit zu tun hat: Systeme zur Bewerberauswahl und Personalverwaltung fallen in den Hochrisikobereich.

Wer also ein Werkzeug einsetzt, das Bewerbungen vorsortiert, Lebensläufe bewertet oder Auswahlentscheidungen unterstützt, unterliegt den Betreiberpflichten für Hochrisikosysteme. Dazu gehören unter anderem der Einsatz gemäß der Anbieterhinweise, eine menschliche Aufsicht durch dafür geeignete Personen, die Überwachung des Betriebs und die Aufbewahrung der automatisch erzeugten Protokolle.

Das ist die praktisch wahrscheinlichste Konstellation, in der eine Kanzlei in den strengeren Bereich gerät, und sie entsteht in der Personalabteilung, nicht in der Buchhaltung.

Die Liste der eingesetzten Systeme

Alle weiteren Schritte setzen voraus, dass bekannt ist, was im Haus überhaupt eingesetzt wird. Genau daran scheitert es häufig, weil KI-Funktionen selten als solche beschafft werden. Sie kommen als Bestandteil einer Aktualisierung, als Zusatzmodul einer vorhandenen Software oder über einen Zugang, den sich jemand für eine einzelne Aufgabe eingerichtet hat.

Für die Bestandsaufnahme genügen vier Quellen. Erstens die Liste der laufenden Softwareverträge, weil dort die beschafften Werkzeuge stehen. Zweitens die Erweiterungen in Browser, Mailprogramm und Textverarbeitung, weil dort die Funktionen sitzen, die niemand beschafft hat. Dritte Quelle ist eine Rundfrage in den Teams mit einer konkreten Formulierung: nicht ob jemand KI nutzt, sondern ob jemand ein Werkzeug verwendet, das Texte zusammenfasst, übersetzt, formuliert oder Belege ausliest. Die vierte Quelle ist die Liste der genutzten Abonnements in der Buchhaltung der Kanzlei selbst, weil dort Zugänge auftauchen, die niemand mehr erwähnt.

Das Ergebnis ist meist umfangreicher als erwartet und hat einen Nebeneffekt, der über die Verordnung hinausgeht: Es ist zugleich die Grundlage für die berufsrechtliche Prüfung, für die Datenschutzdokumentation und für die Entscheidung, welche Werkzeuge freigegeben bleiben.

Sinnvoll ist, die Liste in derselben Datei zu führen wie die Einordnung und die Schulungsnachweise. Drei Tabellen in einem Dokument sind pflegbar, drei Dokumente an drei Orten sind es nach einem Jahr nicht mehr.

Betreiber oder Anbieter

Die Rollenverteilung entscheidet über den Umfang der Pflichten. Eine Kanzlei, die eine eingekaufte Software nutzt, ist Betreiber. Die Hauptlast liegt beim Anbieter.

Zum Anbieter kann werden, wer ein System unter eigenem Namen bereitstellt oder ein bestehendes System so wesentlich verändert, dass sich sein Zweck ändert. Für die allermeisten Kanzleien ist das nicht einschlägig. Relevant wird die Frage dort, wo eine Kanzlei eigene Werkzeuge entwickelt und Mandanten anbietet, etwa ein eigenes Portal mit KI-Funktionen unter eigener Marke.

Was der AI Act nicht regelt

Ein Teil der Verunsicherung entsteht dadurch, dass der Verordnung Fragen zugeschrieben werden, die sie nicht beantwortet. Vier Beispiele, die im Kanzleialltag auftauchen:

Ob ein Buchungsvorschlag richtig ist. Die fachliche Richtigkeit ist keine Frage der Verordnung, sondern der Buchführung und der Verantwortung des Berufsträgers. Ein System kann sämtliche Anforderungen der Verordnung erfüllen und trotzdem falsch kontieren.

Ob Daten an einen Dienstleister gegeben werden dürfen. Das beantworten Datenschutz und Berufsrecht. Die Verordnung enthält dazu keine eigene Erlaubnis und kein eigenes Verbot.

Ob eine Buchführung ordnungsmäßig ist. Das richtet sich nach der Abgabenordnung und den GoBD. Eine Einordnung als minimales Risiko sagt darüber nichts.

Ob eine Kanzlei haftet. Die zivilrechtliche Haftung folgt eigenen Regeln. Der Einsatz eines Werkzeugs ändert nichts daran, dass die geschuldete Leistung die der Kanzlei ist.

Diese Abgrenzung ist praktisch nützlich, weil sie den Prüfaufwand richtig verteilt. Wer für die Einführung einer Belegverarbeitung drei Tage auf die Einordnung nach der Verordnung verwendet und einen Nachmittag auf die Frage, wo die Daten verarbeitet werden, hat die Aufmerksamkeit falsch gelegt.

Was Mandanten wissen wollen

Unabhängig von der Rechtslage kommt die Frage, sobald ein Mandant bemerkt, dass Belege maschinell verarbeitet werden. Sie kommt selten als Beschwerde und meist als Interesse, und die Antwort entscheidet über das Vertrauen in den weiteren Ablauf.

Drei Punkte tragen erfahrungsgemäß eine Antwort in wenigen Sätzen.

Wer entscheidet. Der Vorschlag entsteht maschinell, die Entscheidung trifft die Kanzlei. Das ist die Aussage, auf die es Mandanten ankommt, und sie ist zugleich zutreffend, weil die Verantwortung ohnehin nicht delegierbar ist.

Was mit den Belegen geschieht. Wo sie verarbeitet werden, wer sie sieht und ob sie zur Verbesserung fremder Systeme verwendet werden. Wer diese Antworten aus der eigenen Prüfung heraus geben kann, führt ein kurzes Gespräch. Wer sie nachliefern muss, führt ein langes.

Was sich für den Mandanten ändert. In aller Regel: die Art der Rückfragen. Sie kommen häufiger, kürzer und beleggenau statt gesammelt am Quartalsende. Das ist eine spürbare Umstellung und sollte angekündigt werden, sonst wirkt sie wie eine Verlagerung von Arbeit.

Eine kurze schriftliche Darstellung dieser drei Punkte, ein bis zwei Absätze, ersetzt eine Reihe von Einzelgesprächen und lässt sich in die Unterlagen zum Mandatsverhältnis aufnehmen.

Was jetzt sinnvollerweise zu tun ist

Vier Schritte, die den Aufwand begrenzen und die Fragen beantworten, die tatsächlich kommen:

1. Eine Liste der eingesetzten Systeme. Welche Werkzeuge mit KI-Funktion sind im Haus, wer nutzt sie, wofür. Das ist ohnehin die Grundlage jeder weiteren Prüfung.
2. Die Einordnung je System. In den allermeisten Fällen minimales Risiko, mit einer bewussten Prüfung für alles, was Personalentscheidungen berührt.
3. Die KI-Kompetenz dokumentieren. Was wurde vermittelt, wann, an wen.
4. Eine interne Regel, welche Werkzeuge freigegeben sind und was auf keinen Fall eingegeben wird. Das ist weniger eine AI-Act-Anforderung als eine berufsrechtliche, wirkt aber auf beide Ebenen.

Der Aufwand dafür liegt bei wenigen Stunden. Der eigentliche Prüfaufwand vor der Einführung eines Systems liegt weiterhin woanders: bei der Frage, wo die Daten verarbeitet werden, wer sie sieht und ob sie zum Training verwendet werden.