Validierung von KI-Outputs Finanzwesen: Manuelle KI-Kontrollen kosten über 30 Stunden pro Woche

Anbieter zum Thema

Sage GmbH

Esker Software Entwicklungs-und Vertrieb

Yorizon GmbH & Co. KG

Laut einer neuen Studie von IDC im Auftrag von Sage bremsen manuelle Kontrollen den wirtschaftlichen Nutzen von KI im Finanzwesen. 29 Prozent der deutschen Entscheider im Finanzwesen verbringen wöchentlich zwischen 15 und 29 Stunden mit der Validierung von KI-Outputs.

Produktivitätsgewinne durch den Einsatz von künstlicher Intelligenz im Finanzwesen gehen im Arbeitsalltag wieder verloren, weil Mitarbeitende die generierten Ergebnisse überprüfen müssen. Die Höhe dieser sogenannten „Verifizierungssteuer“ („Verification Tax“) ist eines der Hauptergebnisse einer neuen Studie von IDC im Auftrag von Sage, Anbieter von Unternehmenssoftware für KMU.

Die Ergebnisse der Studie belegen, dass der Kontrollaufwand im deutschen Finanzsektor immense Kapazitäten bindet. 29 Prozent der Finanzverantwortlichen in deutschen Unternehmen verbringen jede Woche zwischen 15 und 29 Stunden mit der Überprüfung von KI-Ergebnissen. Weitere 18 Prozent verlieren durch diese manuelle Validierung sogar mehr als 30 Stunden ihrer wöchentlichen Arbeitszeit.

Finanzwesen: Kein Vertrauen in Black-Box-Modelle der KI

Darüber hinaus belegt die Studie, dass sich deutsche Entscheider im Finanzwesen weigern, Black-Box-Modellen zu vertrauen, das heißt Systemen, deren Schlussfolgerungen nicht vollständig nachzuvollziehen sind: 68 Prozent der deutschen Befragten würden ein KI-Tool ablehnen, das zwar eine Präzision von 99 Prozent verspricht, seine Entscheidungen aber nicht nachvollziehbar begründen kann. 

Dabei zeigt sich in Deutschland ein Fokus auf das eigene Fachwissen: Während global vor allem die fehlende Transparenz als Ablehnungsgrund genannt wird, ist es in Deutschland der Konflikt mit dem eigenen Fachurteil. 43 Prozent der deutschen Finanzverantwortlichen würden eine KI-Empfehlung sofort zurückweisen, wenn sie dem eigenen professionellen Urteilsvermögen widerspricht (globaler Durchschnitt: 39 Prozent). KI wird hierzulande als Werkzeug verstanden, das sich am menschlichen Sachverstand messen lassen muss, nicht umgekehrt.

Aaron Harris, CTO bei Sage, kommentiert die Ergebnisse der Studie: „Im Finanzwesen war fast richtig schon immer gleichbedeutend mit falsch. Mit zunehmend komplexen KI-Workflows steigen die Kosten der Unsicherheit weiter. Die aktuelle Studie zeigt: Die nächste Ära der KI wird nicht durch Modellleistung entschieden, sondern durch Vertrauensinfrastruktur gewonnen. Finanzteams können es sich nicht leisten, als Detektive durch undurchsichtige KI-Outputs zu navigieren. Sie brauchen Lösungen, die Transparenz, Kontrolle und lückenlose Rückverfolgbarkeit direkt in jede KI-gesteuerte Entscheidung einbetten.“

Die nächste Ära der KI wird nicht durch Modellleistung entschieden, sondern durch Vertrauensinfrastruktur gewonnen. Finanzteams können es sich nicht leisten, als Detektive durch undurchsichtige KI-Outputs zu navigieren.

Aaron Harris, Sage

KI-Design im Finanzwesen: Von der Black Box zur Glass Box

Um die hohe „Steuerlast“ der manuellen Überprüfung zu senken, fordern deutsche Unternehmen einen radikalen Designwechsel bei Softwareanbietern. Gefragt sind nachvollziehbare „Glass-Box“-Ansätze, die Einblicke in die zugrundeliegende Logik, die Datenquellen und die konkreten Begründungen hinter jeder Empfehlung geben. Für 68 Prozent der deutschen Führungskräfte im Finanzwesen hat der Wechsel eines Anbieters vom Black-Box- zum Glass-Box-Ansatz dessen Status als bevorzugter strategischer Partner erheblich oder entscheidend beeinflusst.

Alexander Trautmann, Director of Product Engineering bei Sage, erklärt: „Was diese Studie als Verifizierungssteuer beschreibt, ist im Kern ein Architekturproblem. Unternehmen verbringen Stunden damit, manuell nachzuweisen, dass ihre KI richtig liegt, weil die Systeme keinen vollständigen Prüfpfad bereitstellen. Das ist kein KI-Problem. Das ist ein Designfehler, den wir in unseren Lösungen von Beginn an vermeiden.“ Der von Sage verfolgte Ansatz für KI im Finanzbereich basiert auf dem Prinzip „Vertrauen durch Design“: mit erklärbaren und verifizierbaren KI-Ergebnissen, kontrollierten Aktionen und vollständiger Rückverfolgbarkeit jeder KI-gesteuerten Entscheidung.

Kevin Permenter, Research Director Financial Applications bei IDC, ergänzt: „Organisationen, die dauerhaft von KI profitieren wollen, dürfen Vertrauensinfrastruktur nicht als Einschränkung begreifen, sondern müssen sie als Fundament betrachten, auf dem skalierbare KI erst gebaut werden kann. Wer jetzt handelt und Transparenz operationalisiert, schützt sich vor lähmender Verifikationsüberlastung.“

Für die Studie „The Emerging Economics of AI in Finance” befragte IDC im Februar 2026 insgesamt 2.275 leitende Entscheider im Finanzwesen in Nordamerika (63 Prozent) und EMEA (37 Prozent), darunter 205 Personen aus Deutschland. Als Befragungsmethode wurde CATI (telefonisch-computergestützt) gewählt, wobei 17 Branchen-Segmente von IDC und Unternehmen mit 20 bis 1.999 Mitarbeitern berücksichtigt wurden.

Sage Intacct

Finanzmanagement: Neue KI-Funktionen werden zu Wachstumstreibern