Governance bei KI KI-Agenten: Wenn Automatisierung neue Risiken erzeugt

Anbieter zum Thema

Esker Software Entwicklungs-und Vertrieb

d.velop AG

Yorizon GmbH & Co. KG

KI-Agenten versprechen, Prozesse nicht nur zu unterstützen, sondern sie auch innerhalb definierter Grenzen eigenständig auszuführen. Unternehmen, die Agenten isoliert einsetzen, ohne Berechtigungen oder Kontrollmechanismen übergreifend zu steuern, erhöhen womöglich auch die Risiken.

Die Diskussion über künstliche Intelligenz erreicht eine neue Stufe. Lange stand die Frage im Mittelpunkt, wie zuverlässig ein Modell Informationen analysiert oder Inhalte erstellt. Mit KI-Agenten verändert sich der Maßstab: Sie können auf Anwendungen zugreifen, Werkzeuge nutzen, Entscheidungen vorbereiten und innerhalb vorgegebener Prozesse Aktionen auslösen. Gerade im Finanzbereich eröffnet das erhebliche Potenziale. Rechnungen lassen sich priorisieren, Ausnahmen schneller erkennen, Zahlungseingänge zuordnen oder überfällige Forderungen systematischer bearbeiten.

Doch je stärker KI in die operative Ausführung eingreift, desto weniger reicht es aus, nur die Qualität ihrer Ergebnisse zu bewerten. Unternehmen müssen ebenso nachvollziehen können, worauf ein Agent zugreift, welche Aktion er ausführt und wann ein Mensch eingreifen muss. Entscheidend ist daher nicht, wie viel Autonomie technisch möglich ist, sondern unter welchen klaren und überprüfbaren Bedingungen sie verantwortbar bleibt.

KI-Agenten: Die Gefahr liegt in unklaren Handlungsräumen

Jüngste Sicherheitsvorfälle haben der Debatte zusätzliche Dringlichkeit verliehen. In Testumgebungen gelangten fortgeschrittene Modelle über technische Schwachstellen auf externe Systeme. Die populäre Beschreibung, die KI sei „ausgebrochen“, greift jedoch zu kurz. Die Modelle entwickelten keinen eigenen Willen, sondern verfolgten ein vorgegebenes Ziel in einer Umgebung, deren technische und organisatorische Grenzen nicht ausreichend wirksam waren.

Für Unternehmen liegt darin die wichtigere Erkenntnis: Ein leistungsfähiges System kann unerwünschte Ergebnisse erzeugen, wenn Zielsetzung, Zugriffsrechte und Kontrollmechanismen nicht präzise aufeinander abgestimmt sind. Viele Unternehmen führen KI derzeit punktuell ein. Die Kreditorenbuchhaltung nutzt eine Lösung zur Rechnungsverarbeitung, das Forderungsmanagement ein anderes System zur Priorisierung von Kundenkonten und der Einkauf eine weitere Anwendung für Lieferantendaten. Jede Lösung kann lokal Effizienz schaffen. In der Summe entsteht jedoch schnell eine fragmentierte Landschaft aus Agenten, Schnittstellen und Berechtigungskonzepten.

Vor dem Einsatz von KI-Agenten zu klären

Mit dem Einsatz von KI-Agenten stellen sich grundlegende Fragen:

• Wer darf auf welche Daten zugreifen? 
• Welche Aktionen darf ein Agent eigenständig ausführen?
• Welche Entscheidung benötigt eine Freigabe?
• Wie werden Aktivitäten dokumentiert?
• Wer trägt die Verantwortung, wenn mehrere Systeme an einem Vorgang beteiligt sind?

Sobald ein Agent nicht nur Empfehlungen ausspricht, sondern Stammdaten verändert, Nachrichten versendet oder Transaktionen anstößt, werden diese Fragen geschäftskritisch.

Orchestrierung ist mehr als Integration

Orchestrierung darf deshalb nicht allein als technische Verbindung von Anwendungen verstanden werden. Sie muss auch Regeln, Verantwortlichkeiten und Kontrollmechanismen über Prozessgrenzen hinweg koordinieren. Hierfür werden genau definierte Prinzipien benötigt:

• Jeder Agent benötigt eine eindeutige Identität.
• Berechtigungen sollten auf das tatsächlich erforderliche Maß begrenzt sein.
• Jede Aktion muss nachvollziehbar protokolliert werden.
• Sensible Vorgänge benötigen definierte Freigabe- und Eskalationswege.
• Unternehmen müssen in der Lage sein, Rechte zu entziehen oder laufende Aktionen zu stoppen.

Gerade im Finanzbereich ist das entscheidend. Hier treffen sensible Daten, regulatorische Anforderungen und Entscheidungen mit unmittelbaren Auswirkungen auf Liquidität, Lieferanten und Kunden zusammen. Die Verantwortung kann daher weder allein bei der IT noch ausschließlich im Fachbereich liegen.

Der CIO muss sicherstellen, dass Identitäten, Zugriffe und Schnittstellen kontrollierbar bleiben. Der CFO definiert, welche Entscheidungen delegiert werden dürfen, welche Risikoschwellen gelten und wo menschliche Verantwortung unverzichtbar ist. Erst durch dieses Zusammenspiel entsteht ein belastbares Betriebsmodell für KI.

KI-Agenten: Kontrollierte statt maximaler Autonomie

Der Reifegrad eines Unternehmens zeigt sich künftig nicht daran, wie viele KI-Agenten es einsetzt oder wie viele Aufgaben diese ohne menschlichen Eingriff ausführen. Entscheidend ist, wie präzise ihre Handlungsräume definiert und überwacht werden.

Kontrollierte Autonomie bedeutet nicht, jeden Prozess durch zusätzliche Freigaben zu verlangsamen. Standardisierte, repetitive und reversible Vorgänge können weitgehend automatisiert ablaufen. Bei Ausnahmen, hohen finanziellen Auswirkungen oder unklaren Situationen bleibt der Mensch eingebunden. Die Technologie übernimmt Ausführung und Koordination, der Mensch behält Verantwortung und Entscheidungshoheit.

Governance als Grundlage für sichere KI-Agenten

Unternehmen sollten die aktuelle Debatte deshalb weder ignorieren noch zum Anlass nehmen, KI-Initiativen grundsätzlich infrage zu stellen. Sie sollten sie als Aufforderung verstehen, nicht nur Modelle, sondern auch Berechtigungen, Prozessarchitekturen und Governance zu prüfen. Denn mehr Automatisierung führt nicht automatisch zu mehr Kontrolle. Ohne gemeinsame Steuerung kann sie neue Abhängigkeiten und Risiken schaffen. Richtig orchestriert können KI-Agenten dagegen Finanzprozesse leistungsfähiger machen, ohne Transparenz und Nachvollziehbarkeit zu opfern.

Mehr über den Einsatz von Agentic AI in den Bereichen Finance, Accounting und Customer Service erfahren Sie bei der Veranstaltung Esker All Access am 8. Oktober 2026 in Hamburg.
Die KI-Automatisierungssuite der Esker Software Entwicklungs- und Vertriebs-GmbH verwendet die neuesten Technologien im Bereich Agentic AI und Automatisierung, um das Working Capital und den Cashflow zu optimieren.

KI-gestützte Finanzabteilung

Kreditorenbuchhaltung: Esker wird für Automatisierung ausgezeichnet