Donnerstag, kurz vor sechs. Ein Belegstapel eines Handwerksbetriebs, alles vorkontiert. Das System kennt die Lieferanten und schlägt vor, was beim letzten Mal gebucht wurde.
Dazwischen die Rechnung eines Softwareanbieters, seit Jahren derselbe Posten, ein Dutzend Mal gleich gebucht. Diesmal sieht sie anders aus: Keine ausgewiesene Umsatzsteuer, dafür eine ausländische Umsatzsteuer-Identifikationsnummer und ein Hinweis auf die Steuerschuldnerschaft des Leistungsempfängers. Der Anbieter hat seine Abrechnung zum Jahreswechsel umgestellt.
Der Vorschlag des Systems lautet wie im Vorjahr. Es hat nichts falsch gemacht – es hat fortgeschrieben, was bisher richtig war. Die Mitarbeiterin klickt auf "Übernehmen". Sie hat die Rechnung gesehen; gelesen hat sie Lieferant und Betrag, beides stimmte. Am Freitagmorgen gibt der Berufsträger den Stapel frei. Er hält den Vorschlag nicht für falsch. Geprüft hat er ihn nicht. Im Arbeitsablauf ist beides derselbe Klick.
Der Sachverhalt hat sich geändert, die Buchung nicht. Ab jetzt wird die Fehlbuchung zur Vorlage für die nächste Rechnung desselben Anbieters, und was für diesen Lieferanten gilt, gilt für jeden anderen, der seine Abrechnung umstellt. Auffallen wird es später – bei der Jahresabschlusserstellung, bei einer Umsatzsteuer-Sonderprüfung, in der Betriebsprüfung. Dann steht neben dem Korrekturaufwand die Frage im Raum, warum das der Kanzlei nicht aufgefallen ist. Die Antwort steht in der Akte, und sie lautet: freigegeben.
Wann ist die menschliche Kontrolle von KI-Ergebnissen wirklich wirksam?
Eine menschliche Freigabe ist nur dann eine wirksame Kontrolle, wenn die verantwortliche Person das KI-Ergebnis fachlich beurteilen kann, relevante Informationen berücksichtigt und den Vorschlag bei Bedarf ändern oder verwerfen darf. Ein blosses Bestätigen per Klick genügt dafür nicht.
Für Steuerberater und Wirtschaftsprüfer ist das besonders wichtig: Die berufsrechtliche Eigenverantwortlichkeit bleibt bestehen, unabhängig davon, ob ein Arbeitsergebnis von Mitarbeitenden, einer Kanzleisoftware oder einem KI-System vorbereitet wurde.
Entscheidend ist nicht, ob jemand freigibt, sondern ob tatsächlich geprüft wird.
(KI-generierte Illustration)
Kaum ein Satz beendet Diskussionen über KI-Einsatz so zuverlässig wie dieser: "Am Ende schaut ohnehin ein Mensch drüber." Er wirkt plausibel, weil er zwei Dinge zugleich verspricht, die Effizienz der Maschine und die Urteilskraft des Berufsträgers. In Kanzleien und Prüfungspraxen trägt er zusätzliches Gewicht, weil die Letztverantwortung dort ohnehin bei einer natürlichen Person liegt. Wer eine Steuererklärung zeichnet oder einen Bestätigungsvermerk erteilt, unterschreibt mit seinem Namen – und zwar unabhängig davon, wer oder was den Inhalt erzeugt hat
Genau darin liegt die Falle. Dass ein Mensch verantwortet, sagt nichts darüber aus, ob dieser Mensch das Ergebnis auch tatsächlich geprüft hat. Die Forschung zur Zusammenarbeit von Mensch und Maschine und inzwischen auch die europäische Rechtsprechung kommen zum selben Befund: Eine Freigabe, die auf dem Papier existiert, ist noch keine Kontrolle, die inhaltlich stattfindet.
Dieser Beitrag ordnet ein, warum das so ist und was Datenschutz-Grundverordnung (DSGVO) und KI-Verordnung (KI-VO) verlangen. Vor allem aber klärt er, welche Teile davon den steuerberatenden und prüfenden Beruf in Deutschland überhaupt treffen. Denn ein nicht unerheblicher Teil der aktuellen Debatte dreht sich um Konstellationen, die in einer typischen Kanzlei gar nicht vorkommen – und lenkt damit von der Vorschrift ab, die wirklich greift.
Der Fachbegriff dafür lautet Automation Bias. Gemeint ist die Neigung, Ergebnisse automatisierter Systeme stärker zu gewichten als eigene Beobachtungen, und die eigene Prüfung in dem Maß zurückzufahren, in dem sich das System als zuverlässig erwiesen hat. Nicht Nachlässigkeit treibt diesen Effekt, sondern eine durchaus vernünftige Ökonomie der Aufmerksamkeit: Wer unter Zeitdruck arbeitet und mehrere Vorgänge parallel bearbeitet, spart die Kontrolle dort ein, wo sie sich bisher nie gelohnt hat.
Jeder kennt das aus dem Auto. Das Navigationsgerät hat auf hundert Fahrten recht behalten. Auf der einhundertersten führt es in eine gesperrte Straße, und der Fahrer biegt trotzdem ab – nicht aus Dummheit, sondern weil hundert bestätigte Ansagen eine Gewohnheit erzeugt haben, die stärker ist als das Schild am Straßenrand.
Zum Thema Automation Bias haben wir einen eigenen Beitrag veröffentlicht, der es näher beleuchtet. Link: Gute Kanzleisoftware ersetzt keine eigene KI- und Datenschutz-Governance (Warum Vertrauen in etablierte Systeme nicht mit eigener Compliance verwechselt werden darf)
Aus der Medizin ist ein Effekt bekannt, der stutzig machen sollte: Entscheidungsunterstützende Systeme heben die durchschnittliche Trefferquote und erzeugen gleichzeitig neue Einzelfehler, weil Anwender zunächst richtig lagen und ihre Einschätzung nach einer falschen Empfehlung revidierten. Übersetzt heißt das: Je verlässlicher ein System im Regelfall arbeitet, desto weniger unabhängig prüft der Mensch den Ausnahmefall. Ausgerechnet der seltene Fall, in dem das System irrt, ist damit der Fall, in dem die menschliche Kontrolle am schwächsten wirkt. Wer ein besonders gutes Werkzeug einkauft, kauft dieses Risiko mit.
Der Effekt erzeugt zwei Fehlermuster, die völlig verschieden funktionieren. Sie auseinanderzuhalten lohnt sich, weil man sie mit ganz unterschiedlichen Mitteln bekämpft.
Muster 1 – der Fehler, den das System nie anzeigt. Das System meldet schlicht nichts, und genau deshalb sieht niemand hin. Geprüft wird, was auf dem Bildschirm erscheint; alles andere fällt aus dem Blickfeld. In der Kanzlei sieht das so aus: Die Anomalie-Erkennung schlägt bei einem Buchungskreis nicht an, weil das Muster außerhalb ihrer Regeln liegt – und weil sie nicht anschlägt, sieht sich den Kreis auch sonst niemand an. Der Fehler steckt nicht im Vorschlag, sondern in seiner Lücke. Dagegen hilft nur eines: unabhängig vom System festzulegen, was in jedem Fall angesehen wird.
Muster 2 – der Fehler, den man gegen besseres Wissen übernimmt. Das System liefert eine falsche Empfehlung, die widersprechende Information liegt sichtbar vor, und die prüfende Person folgt trotzdem dem Vorschlag. In der Kanzlei sieht das so aus: Das Werkzeug ordnet eine Zahlung einem Aufwandskonto zu, der Vertrag im selben Vorgang weist sie als Anzahlung aus, und die Zuordnung wird bestätigt. Die Information ist da. Nur ihre Prüfung findet nicht statt.
Für den Berufsstand ist das zweite Muster das unangenehmere. Bessere Daten verhindern es nicht, bessere Software auch nicht – nur die tatsächliche Auseinandersetzung mit dem Einzelfall. Und es hinterlässt eine unbequeme Spur: Der Beweis, dass man es hätte besser wissen können, liegt in der Akte.
Zwischen echter Beurteilung und reinem Abnicken liegen vier Stufen. Im Prozessdiagramm sehen sie identisch aus. Praktisch und rechtlich sind sie es nicht.
Stufe 1 – Eigenständige Beurteilung. Die Person bildet sich zuerst ein eigenes Bild und behandelt das Systemergebnis als eine von mehreren Informationsquellen. Nur diese Stufe ist eine Prüfung im vollen Sinn.
Stufe 2 – Kritische Nutzung. Die Person übernimmt die Empfehlung, sucht aber aktiv nach Hinweisen, die dagegen sprechen. Belastbar, solange die Zeit dafür tatsächlich eingeplant ist.
Stufe 3 – Voreinstellungsakzeptanz. Der Vorschlag gilt als Normalfall. Wer abweichen will, muss Aufwand treiben und sich erklären. Formal eine Prüfung, faktisch eine Hürde gegen das Abweichen.
Stufe 4 – Routinefreigabe. Bestätigen, ohne zu beurteilen. Auf dem Papier nicht von Stufe 1 zu unterscheiden, im Ergebnis ihr Gegenteil.
(KI-generierte Illustration)
Das ist ein Erklärungsmodell, kein juristischer Test. Aber es zeigt, warum die Frage "Gibt es einen Freigabeschritt?" nichts beantwortet. Interessant ist allein, auf welcher Stufe dieser Schritt stattfindet – und ob sich das belegen lässt.
Für Wirtschaftsprüfer hat dieser Befund einen vertrauten Klang. Die kritische Grundhaltung, die den Prüfungsstandards zugrunde liegt, ist nichts anderes als eine institutionalisierte Gegenmaßnahme gegen das vorschnelle Übernehmen plausibler Erklärungen. Automation Bias ist insofern kein neues Phänomen, sondern eine bekannte Anfälligkeit in neuem Gewand. Das ungelesen abgezeichnete Arbeitspapier des Prüfungsassistenten und die ungeprüft übernommene Ampel einer Anomalie-Erkennung führen zum selben Ergebnis.
An dieser Stelle lohnt eine nüchterne Zuordnung, weil die Fachdiskussion Konstellationen vermischt, die rechtlich weit auseinanderliegen können.
Die eigenen Anwendungen im Kanzleialltag fallen in aller Regel nicht unter die Hochrisiko-Regeln der KI-VO. Belegerkennung und Kontierungsvorschläge, Vorsysteme zur Umsatzsteuer-Voranmeldung, Recherche- und Entwurfswerkzeuge, Assistenzsysteme in der Jahresabschlusserstellung, Analysewerkzeuge in der Abschlussprüfung, Transkription von Mandantengesprächen: Nichts davon dient der Entscheidung über Personen im Sinne von Anhang III der KI-VO. Das ist keine Entwarnung, sondern eine Präzisierung. Die Pflichten des Hochrisiko-Regimes greifen hier nicht – die berufsrechtlichen und haftungsrechtlichen Maßstäbe dagegen uneingeschränkt.
Der eigentliche Hebel für den Berufsstand heißt Eigenverantwortlichkeit. § 57 Abs. 1 StBerG verpflichtet Steuerberater zu unabhängiger, eigenverantwortlicher und gewissenhafter Berufsausübung; § 43 Abs. 1 WPO enthält für Wirtschaftsprüfer eine im Kern gleichlautende Pflicht. Eigenverantwortlichkeit bedeutet nach hergebrachtem Verständnis, dass der Berufsträger sein Urteil selbst bildet und sich nicht darauf beschränkt, fremde Arbeitsergebnisse durchzuwinken.
Ob dieses Arbeitsergebnis von einem Mitarbeitenden, einem externen Dienstleister oder einem Sprachmodell stammt, ändert am Maßstab nichts. Wer einen KI-generierten Entwurf ohne inhaltliche Durchdringung zeichnet, verletzt diese Pflicht – unabhängig davon, ob DSGVO oder KI-VO im konkreten Fall überhaupt einschlägig sind. Das ist der praktisch wichtigste Befund dieses Beitrags: Die berufsrechtliche Schwelle greift früher und breiter als Datenschutz- und KI-Recht, und sie gilt seit Jahrzehnten.
Wie die Kammern den KI-Einsatz künftig konkretisieren, insbesondere in den Berufsordnungen, ist derzeit in Bewegung. Wer sich auf eine bestimmte Auslegung stützen will, prüft besser den jeweils aktuellen Stand der Kammerverlautbarungen.
Hochrisiko beginnt dort, wo über Menschen entschieden wird. Für Kanzleien und Prüfungsgesellschaften betrifft das vor allem die Personalauswahl: KI-gestützte Vorauswahl von Bewerbungen, Ranking von Kandidaten oder Systeme zur Leistungsbeurteilung fallen nach Anhang III Nr. 4 der KI-VO in den Hochrisikobereich. Die zugehörigen Pflichten greifen allerdings erst ab dem 2. Dezember 2027, bei Systemen in regulierten Produkten ab dem 2. August 2028. Größere Einheiten mit eigenem Recruiting sollten das ernst nehmen; kleinere Kanzleien wird es selten treffen.
Hinzu kommt die Beratungs- und Prüfungsperspektive. Mandanten aus dem Kredit-, Versicherungs- oder Personaldienstleistungsbereich betreiben exakt die Systeme, um die es hier geht. Wer diese Mandate betreut oder prüft, braucht den Maßstab ohnehin – dann eben für den Mandanten statt für sich selbst.
Bei Art. 22 DSGVO ist Zurückhaltung angebracht. Die Norm greift nur, wenn eine Entscheidung ausschließlich automatisiert ergeht und rechtliche oder ähnlich erhebliche Wirkung entfaltet. Die klassische Kanzleitätigkeit erfüllt das kaum. Ein Kontierungsvorschlag ist keine Entscheidung über eine Person, und die Steuererklärung des Mandanten wird nicht durch die Kanzlei mit Rechtswirkung gegenüber dem Mandanten "entschieden". Relevanter wird es in der Lohnbuchhaltung und bei mandantenbezogenen Bewertungs- oder Scoring-Prozessen.
Bemerkenswert ist im steuerlichen Kontext die Spiegelseite. Die Finanzverwaltung arbeitet längst so, wie es hier beschrieben wird: Steuerbescheide ergehen automationsgestützt, Risikomanagementsysteme entscheiden, welche Fälle überhaupt auf dem Schreibtisch eines Amtsträgers landen. Wer eine personelle Bearbeitung erreichen will, muss dafür einen Anlass liefern.
Für die Beratungspraxis ist das Alltag – und es lohnt der Blick darauf, worauf man sich dabei eigentlich beruft. Die Frage, wie genau ein(e) Bearbeiter(in) einen maschinell erzeugten Vorschlag tatsächlich prüft, ist dieselbe, um die es in diesem Beitrag geht. Nur wird sie gegenüber dem Finanzamt viel selbstverständlicher gestellt als gegenüber der eigenen Kanzlei.
Unabhängig von jeder Hochrisiko-Einstufung greift bereits ein Grundgerüst. Art. 4 KI-VO verpflichtet Anbieter und Betreiber seit dem 2. Februar 2025, Maßnahmen zur KI-Kompetenz ihres Personals zu ergreifen – also auch Kanzleien, die Sprachmodelle einsetzen. Die Digital-Omnibus-Verordnung zur KI hat diese Anforderung angepasst: Statt ein bestimmtes Kompetenzniveau sicherstellen zu müssen, sind Anbieter und Betreiber nun verpflichtet, Maßnahmen zur Förderung der KI-Kompetenz zu ergreifen.
Praktisch ändert diese Abschwächung weniger, als die Aufregung darum vermuten lässt. Art. 4 stand von Anfang an nicht im Bußgeldkatalog der Verordnung. Wer die Vorschrift als sanktionsbewehrte Pflicht gelesen hat, hat sie schon vorher überdehnt – und wer sie jetzt für erledigt hält, unterschätzt sie. Übrig bleibt nämlich keine Formalie, sondern eine Verantwortung, und die trifft denjenigen, der über den Einsatz des Systems entscheidet.
Entscheidend ist deshalb nicht das Ob, sondern das Wo. Kompetenz muss dort vorhanden sein, wo mit dem System tatsächlich gearbeitet wird: bei der Person, die den Vorschlag am Bildschirm bestätigt oder verwirft. Ein Grundlagenwebinar für die gesamte Belegschaft erzeugt einen Nachweis in der Personalakte, aber keine Urteilsfähigkeit an der Stelle, an der sie gebraucht wird. Umgekehrt braucht niemand ein Zertifikat, der mit dem Werkzeug nie in Berührung kommt. Die brauchbare Frage lautet: Weiß die Person, die freigibt, wo genau dieses Werkzeug typischerweise danebenliegt – und erkennt sie den Moment, in dem sie ihm nicht folgen sollte?
Damit schließt sich der Kreis zum Berufsrecht. Was Art. 4 KI-VO als Erwartung formuliert, verlangen § 57 StBerG und § 43 WPO ohnehin: Wer verantwortet, muss verstehen, was er verantwortet. Die KI-VO liefert dafür kein neues Prinzip, sondern nur eine zusätzliche Adresse.
Die Norm knüpft an einen eng umrissenen Fall an. Vier Voraussetzungen müssen zusammenkommen – fehlt eine davon, greift Art. 22 DSGVO nicht:
Erstens: personenbezogene Daten. Die Verarbeitung muss sich auf Informationen über eine identifizierbare Person beziehen. Reine Sach- oder Unternehmensdaten fallen heraus.
Zweitens: eine Entscheidung. Es muss eine Festlegung mit Wirkung nach außen vorliegen, keine bloße interne Vorüberlegung. Entscheidend ist dabei nicht das Etikett: Auch eine vorgelagerte Bewertung kann unter Art. 22 DSGVO fallen, wenn sie für eine nachfolgende Entscheidung maßgeblich ist und die weiteren Voraussetzungen der Vorschrift erfüllt sind.
Drittens: ausschließlich automatisiert. Kein Mensch nimmt vor dem Wirksamwerden inhaltlich Einfluss. Genau hier setzt dieser Beitrag an – und genau hier scheitern die meisten Prozesse, die auf dem Papier eine Freigabe vorsehen.
Viertens: rechtliche oder ähnlich erhebliche Wirkung. Typischerweise dort, wo ein Vertrag zustande kommt oder scheitert, wo Konditionen festgelegt werden oder wo jemand den Zugang zu einer Leistung verliert.
Kommen alle vier Voraussetzungen zusammen, ist die Entscheidung grundsätzlich unzulässig. Ausnahmen bestehen insbesondere dann, wenn sie für den Abschluss oder die Erfüllung eines Vertrags erforderlich ist, auf einer ausdrücklichen Einwilligung beruht oder durch eine entsprechende Rechtsvorschrift zugelassen wird. Dabei sind die jeweils vorgeschriebenen Schutzmaßnahmen zu beachten.
Damit sind zwei Momente im Spiel, die in der Praxis regelmäßig durcheinandergehen. Sie liegen zeitlich vor und nach derselben Entscheidung – und rechtlich in völlig verschiedenen Welten.
Vorher: die Kontrolle, die den Tatbestand verhindert. Beurteilt eine Person den Fall wirklich, und kann sie das Ergebnis ändern, bevor es wirksam wird, ist die dritte Voraussetzung nicht erfüllt. Die Entscheidung ergeht dann nicht ausschließlich automatisiert. Art. 22 DSGVO kommt gar nicht erst zur Anwendung, und es braucht weder eine Ausnahme noch zusätzliche Garantien.
Nachher: die Rechte, die den Schaden begrenzen. Ist die Entscheidung dagegen ausschließlich automatisiert ergangen und stützt sie sich auf eine der Ausnahmen, greifen die Rechte aus Art. 22 Abs. 3 DSGVO – Eingreifen einer Person, Darlegung des eigenen Standpunkts, Anfechtung. Sie setzen erst ein, wenn die Entscheidung bereits steht, und sie werden nur wirksam, wenn die betroffene Person sie auch geltend macht.
Wer beides gleichsetzt, unterschätzt den Aufwand erheblich. Die Kontrolle vorher kostet Zeit im Regelfall, jeden Tag, bei jedem Vorgang. Die Rechte nachher kosten fast nichts – bis jemand von ihnen Gebrauch macht. Genau deshalb entscheidet sich an der früheren Weiche, ob ein Prozess trägt.
Wie viel Beteiligung dafür genügt, sagt der Verordnungstext nicht. Antwort geben die Leitlinien, die die Artikel-29-Datenschutzgruppe entwickelt und der Europäische Datenschutzausschuss bestätigt hat (WP251rev.01) – das Gremium, in dem die nationalen Datenschutzaufsichtsbehörden zusammenarbeiten. Verlangt wird eine Aufsicht, die mehr ist als eine symbolische Geste, ausgeübt von einer Person mit der Befugnis und der Kompetenz, die Entscheidung zu ändern, und unter Berücksichtigung aller maßgeblichen Daten.
Daraus ergeben sich drei Merkmale:
Die inhaltliche Befassung mit dem Einzelfall
Die tatsächliche Änderungsbefugnis samt der fachlichen Fähigkeit, den Systemvorschlag einzuordnen
Der Zugang zu allen relevanten Informationen einschließlich der gegenläufigen Anhaltspunkte und der bekannten Systemgrenzen
Es handelt sich um Auslegungshinweise, nicht um zusätzliches Recht. Aufsichtsbehörden und Gerichte orientieren sich trotzdem daran.
Rechtlich ist hier noch Bewegung zu erwarten: Der Digital-Omnibus im Bereich Datenschutz sieht nach dem Kommissionsvorschlag vom 19. November 2025 eine Umgestaltung des Art. 22 DSGVO vor, weg von der Konstruktion als Betroffenenrecht und mit einer Klarstellung zur vertraglichen Erforderlichkeit. Stand August 2026 ist dieser datenschutzrechtliche Teil nicht verabschiedet, anders als der Teil zur KI-VO. Bis dahin gilt Art. 22 DSGVO unverändert.
Im SCHUFA-Urteil vom 7. Dezember 2023 hatte der Europäische Gerichtshof über eine zweistufige Konstellation zu befinden: Eine Auskunftei berechnet einen Score, ein Kreditinstitut entscheidet formal über den Kredit. Der Gerichtshof stellte fest, dass die Scoreberechnung selbst eine Entscheidung im Sinne von Art. 22 DSGVO darstellt, wenn das Kreditinstitut ihr maßgeblich folgt. Die Aufspaltung in "Berechnung hier, Unterschrift dort" schützt also nicht. Wer die inhaltlich determinierende Bewertung liefert, kann rechtlich der Entscheider sein – auch wenn ein anderer den Bescheid unterschreibt.
Noch anschaulicher ist die Entscheidung des Gerechtshof Amsterdam vom 4. April 2023 in den Verfahren mehrerer Fahrer gegen Uber. Uber hatte Fahrer nach festgestelltem Betrugsverdacht deaktiviert und machte geltend, ein spezialisiertes Team habe die Fälle zuvor geprüft und das Ergebnis dokumentiert – also keine ausschließlich automatisierte Entscheidung. Das Gericht sah sich diese Prüfung an, maß sie am Maßstab der Leitlinien des Europäischen Datenschutzausschusses und hielt fest, dass sie nach der vorgelegten Beweislage nicht viel mehr als ein symbolischer Akt gewesen sei. Für drei von vier Fahrern fehlte der Nachweis realer menschlicher Beteiligung; das Gericht behandelte diese Deaktivierungen als ausschließlich automatisierte Entscheidungen. Beim vierten Fahrer, dem ein persönliches Gespräch vorausgegangen war, erkannte es eine wesentliche Beteiligung an. Verurteilt wurde Uber zur Erteilung aussagekräftiger Informationen über die automatisierte Entscheidungsfindung, nicht zur Reaktivierung der Konten.
Die berufsrechtliche Parallele liegt auf der Hand. Auch ein Haftungs- oder Berufsaufsichtsverfahren fragt nicht, ob das Qualitätssicherungshandbuch einen Freigabeschritt vorsieht. Es fragt, was der Berufsträger im konkreten Mandat tatsächlich geprüft hat – und womit er das belegt.
Die KI-VO setzt anders an als die DSGVO. Sie reguliert Systeme und verteilt Pflichten nach Rolle und Verwendungszweck. Zu unterscheiden sind vor allem der Anbieter, der ein System entwickelt oder entwickeln lässt und unter eigenem Namen anbietet, und der Betreiber, der es in eigener Verantwortung beruflich einsetzt. Eine Kanzlei ist im Normalfall Betreiber. Wer ein zugekauftes System jedoch unter eigenem Namen an Mandanten weiterreicht oder wesentlich verändert, rutscht in die Anbieterrolle – ein Punkt, den man bei Eigenentwicklungen und White-Label-Mandantenportalen prüfen sollte, bevor es jemand anders tut.
Für Hochrisikosysteme verlangt Art. 14 KI-VO vom Anbieter eine Gestaltung, die wirksame Aufsicht überhaupt erst möglich macht. Die aufsichtsführende Person muss Fähigkeiten und Grenzen des Systems verstehen, seine Ausgaben richtig interpretieren, sie verwerfen oder überschreiben und den Betrieb erforderlichenfalls unterbrechen können. Art. 26 KI-VO ergänzt das auf der Betreiberseite: Die Aufsicht ist Personen zu übertragen, die die nötige Kompetenz, Schulung und Befugnis haben — und die dabei unterstützt werden.
Bemerkenswert ist eine Formulierung in Art. 14 Abs. 4 lit. b: Die Vorschrift nennt die Neigung, sich zu sehr auf Systemausgaben zu verlassen, ausdrücklich beim Namen. Der Automation Bias steht damit im Gesetzestext.
Für die meisten Kanzleien sind diese Vorschriften nicht anwendbar, und sie werden es auch nicht werden. Trotzdem lohnt der Blick: Nirgendwo sonst hat der Gesetzgeber so genau aufgeschrieben, was er unter wirksamer menschlicher Aufsicht versteht. Wer prüfen will, ob die eigene Freigabe mehr ist als ein Klick, findet hier die Fragen — verstehen, interpretieren, verwerfen können, anhalten können. Sie taugen als Maßstab, ganz ohne Hochrisiko-Einstufung.
Daraus ergibt sich ein überschaubares Programm, das sich in jeder Größenordnung umsetzen lässt. Es ist bewusst nicht als Rechtspflicht formuliert, sondern als Nachweisstrategie: Es geht darum, im Ernstfall zeigen zu können, worauf die Freigabe beruhte.
(KI-generierte Illustration)
Erstens: Befugnis, Wissen und Zeit. Die prüfende Person muss den Vorschlag bestätigen, ändern oder eskalieren dürfen. Und sie muss den Sachverhalt sowie die typischen Schwächen des Systems gut genug kennen, um Unzuverlässigkeit überhaupt zu erkennen.
Hier liegt der unbequemste Punkt des ganzen Themas. In vielen Kanzleien ist die menschliche Kontrolle heute schon eine Fiktion – nicht weil jemand schludert, sondern weil niemand die Zeit einplant, die sie bräuchte. Wer neunzig Sekunden pro Vorgang kalkuliert und danach "geprüft" in ein Feld schreibt, produziert einen Beleg, keine Prüfung. Leistungsvorgaben, die Rückfragen und Abweichungen faktisch bestrafen, arbeiten gegen jede Compliance-Anstrengung, die man daneben unternimmt.
Zweitens: Informationen. Ein Score, ein Ampelsignal oder ein fertiger Textentwurf genügen für eine eigenständige Beurteilung nicht. Erforderlich sind die maßgeblichen Sachverhaltsinformationen, die gegenläufigen Hinweise, die wesentlichen Treiber des Ergebnisses, die bekannten Grenzen des Systems und, soweit vorhanden und aussagekräftig, Angaben zur Unsicherheit.
Bei besonders folgenreichen Entscheidungen hilft ein einfacher Kniff: die eigene Einschätzung bilden, bevor das System seinen Vorschlag anzeigt. Sonst wird der Vorschlag zur Ausgangsvermutung, und die Prüfung besteht nur noch darin, ihn nicht zu widerlegen.
Drittens: Eine Wirksamkeitsprüfung. Beobachten Sie, wie häufig Vorschläge bestätigt, geändert oder eskaliert werden, wie viel Zeit auf unterschiedliche Falltypen entfällt und ob einzelne Teams auffällige Muster zeigen.
Eine niedrige Änderungsquote ist für sich genommen kein Mangel – sie kann ein gutes System oder eine unkomplizierte Fallauswahl abbilden. Sie ist aber ein Anlass, Stichproben unveränderter Freigaben inhaltlich anzusehen. Ein flächendeckender Begründungszwang für jede unveränderte Entscheidung erzeugt dagegen vor allem Textbausteine. Ein ausgefülltes Freitextfeld beweist keine eigenständige Beurteilung.
Viertens: Geklärte Rollen und Informationszugänge. Wer ist datenschutzrechtlich verantwortlich, wer Auftragsverarbeiter, wer Anbieter, wer Betreiber? Verträge mit Softwareanbietern sollten Zugang zu Dokumentation, Protokollen, Support und Änderungsmitteilungen sichern. Und eine vertragliche Abrede verschiebt keine gesetzliche oder berufsrechtliche Pflicht auf den Lieferanten.
Fünftens: Eine Folgenabschätzung am Anfang – und nach jeder wesentlichen Änderung noch einmal. Die Datenschutz-Folgenabschätzung nach Art. 35 DSGVO ist bei systematischen Bewertungen mit erheblicher Wirkung regelmäßig einschlägig; die Grundrechte-Folgenabschätzung nach Art. 27 KI-VO trifft bestimmte Betreiber von Hochrisikosystemen ab dem jeweils maßgeblichen Termin 2027 beziehungsweise 2028. Beide Instrumente sind verschieden, lassen sich aber koordinieren.
Dass beide Regelungswerke Bußgelder vorsehen, ist bekannt – ein Verstoß gegen Art. 22 DSGVO fällt in die höhere Kategorie des Art. 83 Abs. 5 DSGVO, Verstöße gegen Anbieter- und Betreiberpflichten der KI-VO in die mittlere Kategorie des Art. 99 KI-VO. Die Zahlen dazu muss man nicht wiederholen; sie sind ohnehin nicht das, was eine Kanzlei zuerst trifft. Praktisch näher liegen die leiseren Folgen. Die Aufsichtsbehörde kann anordnen, eine Verarbeitung zu ändern oder einzustellen, und betroffene Personen können nach Art. 82 DSGVO Schadensersatz verlangen. Wer seinen Neumandatsprozess mitten im Jahr anhalten und die Fälle der letzten Monate erneut ansehen muss, spürt das früher als jeden Bußgeldrahmen.
Für den Berufsstand liegt der wunde Punkt ohnehin woanders. Schwerer wiegen die berufsrechtliche Seite – Rügeverfahren, berufsaufsichtliche Maßnahmen, Feststellungen in der externen Qualitätskontrolle – und die zivilrechtliche Haftung. Kein Beratungsfehler wird dadurch entschuldigt, dass ein Sprachmodell ihn vorgeschlagen hat; der Sorgfaltsmaßstab richtet sich an den Berufsträger. Ob und in welchem Umfang die Berufshaftpflicht KI-bedingte Schäden deckt und welche Obliegenheiten sie voraussetzt, lässt sich nicht pauschal beantworten – das gehört in ein Gespräch mit dem Versicherer, und zwar vor dem Schadensfall.
Bleibt der Reputationsschaden. Er entsteht besonders dort, wo eine Kanzlei ihre Prozesse nach außen als "menschlich geprüft" beschreibt, aber nicht darlegen kann, worin die Prüfung bestand. Dieser Satz in der Mandanteninformation ist schnell geschrieben. Er kann teuer werden.
Wenn Sie eine einzige Sache aus diesem Beitrag mitnehmen, dann diese: Bestimmen Sie namentlich, wer prüft. Geben Sie dieser Person schriftlich die Befugnis, dem System zu widersprechen, und reservieren Sie die Zeit dafür in der Kalkulation statt im guten Willen. Sorgen Sie dafür, dass sie mehr sieht als das fertige Ergebnis – den Sachverhalt, die Hinweise, die dagegen sprechen, und die bekannten Schwächen des Werkzeugs. Legen Sie fest, was unabhängig vom System in jedem Fall angesehen wird. Und nehmen Sie sich viermal im Jahr eine Handvoll unveränderter Freigaben vor und lesen Sie sie inhaltlich nach.
Das sind keine Projekte. Das sind fünf Entscheidungen, die in eine Teamsitzung passen. Sie kosten Stunden, keine Budgets – und sie sind das Einzige, was im Ernstfall belegt, dass die Freigabe mehr war als ein Häkchen.
Der Automation Bias liefert den unbequemen Zusatz: Die Eigenverantwortlichkeit, zu der Berufsträger ohnehin verpflichtet sind, erodiert nicht durch böse Absicht, sondern durch gute Systeme, knappe Zeit und die verständliche Neigung, einem verlässlichen Werkzeug zu vertrauen. Wer KI in Kanzlei oder Prüfungspraxis einsetzt, sollte deshalb nicht nur festlegen, dass ein Mensch freigibt, sondern organisieren und dokumentieren, wovon diese Freigabe getragen wird.
Häufiger Widerspruch gegen das System ist dabei kein Qualitätsmerkmal. Entscheidend ist, dass eine eigenständige Beurteilung möglich ist, unterstützt wird – und im Zweifelsfall auch tatsächlich stattfindet.
KI-Governance beginnt nicht mit einer zusätzlichen Unterschrift, sondern mit klaren Verantwortlichkeiten, geeigneten Kontrollprozessen und Mitarbeitenden, die KI-Ergebnisse kritisch beurteilen können.
DATA Security unterstützt Steuerkanzleien und Wirtschaftsprüfungsgesellschaften dabei, den KI-Einsatz rechtlich und organisatorisch abzusichern – von der Risikoanalyse über interne Richtlinien bis zur praktischen Umsetzung wirksamer Kontrollen.
Sprechen Sie mit uns darüber, wie sich KI-Governance in Ihrer Kanzlei praxisgerecht umsetzen lässt.
Verordnung (EU) 2016/679 (DSGVO), insbesondere Art. 4 Nr. 4, Art. 22, Art. 35, Art. 58, Art. 82 und Art. 83 Abs. 5; intersoft consulting ag, dsgvo-gesetz.de.
Verordnung (EU) 2024/1689 (KI-VO), insbesondere Art. 3, 4, 6, 14, 26, 27 und 99; intersoft consulting ag, ai-act-law.eu/de.
Verordnung (EU) 2026/1744 vom 8. Juli 2026 (Digital-Omnibus-Verordnung zur KI), veröffentlicht im Amtsblatt am 24. Juli 2026, in Kraft seit 27. Juli 2026; Verschiebung des Geltungsbeginns der Hochrisikopflichten auf den 2. Dezember 2027 (Anhang III) bzw. 2. August 2028 (Anhang I).
Europäische Kommission, Vorschlag für eine Digital-Omnibus-Verordnung, COM(2025) 837 final vom 19. November 2025, unter anderem mit vorgeschlagenen Änderungen der DSGVO einschließlich Art. 22.
Artikel-29-Datenschutzgruppe, Leitlinien zu automatisierten Entscheidungen im Einzelfall einschließlich Profiling, WP251rev.01, vom Europäischen Datenschutzausschuss bestätigt (2018).
Steuerberatungsgesetz (StBerG), insbesondere § 57 Abs. 1 und § 62a; gesetze-im-internet.de.
Wirtschaftsprüferordnung (WPO), § 43 Abs. 1; gesetze-im-internet.de.
Abgabenordnung (AO), insbesondere § 88 Abs. 5, § 150 Abs. 7 und § 155 Abs. 4; gesetze-im-internet.de.
§ 203 StGB (Verletzung von Privatgeheimnissen); gesetze-im-internet.de.
EuGH (Erste Kammer), Urteil vom 7. Dezember 2023, Rs. C-634/21 – SCHUFA Holding (Scoring)
Gerechtshof Amsterdam (Amsterdamer Berufungsgericht), Urteil vom 4. April 2023, Fahrer Uber