KI Agenten: Der Mensch delegiert, das Risiko bleibt bestehen

Human Risk Management KI-Agenten: Der Mensch delegiert, das Risiko bleibt

22.09.2026 Ein Gastbeitrag von Alexander Peters 2 min Lesedauer

Anbieter zum Thema

Esker Software Entwicklungs-und Vertrieb

Generative KI gibt Antworten, KI-Agenten hingegen handeln. Fehler, Fehlkonfigurationen oder missbräuchliche Zugriffe können sich dadurch automatisiert und schnell über verbundene Systeme ausbreiten. Wer also KI-Agenten handeln lässt, muss Verantwortung neu organisieren.

Executive Summary

Ownership: Jeder KI-Agent benötigt einen Owner im Unternehmen.
Least Privilege: Eigene Identitäten und begrenzte Rechte reduzieren den „Blast Radius“.
Lifecycle: Monitoring, Audit Trail und Offboarding schaffen Nachvollziehbarkeit beim Einsatz von KI-Agenten.
Risiko: Ohne laufende Kontrolle bleiben Fehlverhalten und verwaiste KI-Agenten im Unternehmen unentdeckt.

Menschen definieren Aufgaben und Berechtigungen von KI-Agenten. Deren Risiko wird daher nicht allein durch die Technik, sondern auch durch den menschlichen und organisatorischen Kontext bestimmt: Wer hat den Agenten zu welchem Zweck eingerichtet, und worauf darf er zugreifen? KI-Agenten sollten deshalb als Erweiterung des Human Risk in das Human Risk Management einbezogen werden.

Ein Agent übernimmt Aufgaben, nicht aber die organisatorische Verantwortung. Er braucht einen eindeutigen Owner für den genehmigten Anwendungsfall. Klar geregelt sein müssen die Vergabe und Prüfung von Berechtigungen, Änderungen am Einsatz und menschliche Freigaben bei kritischen Aktionen. Die Bedeutung dieser Strukturen zeigt eine IDC-Prognose: Bis 2029 sollen weltweit mehr als eine Milliarde KI-Agenten täglich rund 217 Milliarden Aktionen ausführen.

Ein Agent braucht einen eindeutigen Owner für den genehmigten Anwendungsfall. Klar geregelt sein müssen die Vergabe und Prüfung von Berechtigungen, Änderungen am Einsatz und menschliche Freigaben bei kritischen Aktionen.

KI-Agenten: Ohne Sichtbarkeit keine Kontrolle

Unternehmen müssen wissen, welche Agenten aktiv sind, wer sie eingerichtet hat, welchem Zweck sie dienen und welche Identität sie nutzen. Auch Verbindungen zu Anwendungen, Datenquellen und MCP-Servern sowie Zugriffe und Aktionen müssen bekannt sein. Erst diese Transparenz zeigt den „Blast Radius“ eines kompromittierten oder fehlerhaft handelnden Agenten. Da Beschäftigte meist umfassendere Zugriffsrechte benötigen, sollten Agenten nicht sämtliche Berechtigungen ihrer Nutzer übernehmen. Sie brauchen eine eigene, überprüfbare und zweckgebundene Identität.

KI-Agenten: Kontrolle und Nachvollziehbarkeit

Auch ein zunächst sicher konfigurierter Agent kann durch neue Aufgaben, Systemverbindungen oder Datenzugriffe sein Risikoprofil verändern. Seine Freigabe darf nicht einmalig bleiben: Unternehmen müssen kontinuierlich prüfen, ob Verhalten und Berechtigungen noch dem genehmigten Zweck entsprechen. Human Risk Management verknüpft den menschlichen Kontext mit Agentenaktivitäten und technischen Risikosignalen. Um Vorfälle rekonstruieren zu können, braucht jeder Agent einen Audit Trail: Er dokumentiert Identität, Verantwortliche, Zugriffe und Aktionen. Das gilt über den gesamten Lebenszyklus: Bei Austritt oder Rollenwechsel des Owners, Projektende oder entfallenem Einsatzzweck ist zu prüfen, ob der Agent noch benötigt wird.

Aufgaben lassen sich delegieren, Verantwortung nicht

KI-Agenten nur als Software-Inventar zu erfassen und ihre Governance bis zum nächsten Audit aufzuschieben, genügt nicht. Unternehmen sollten jederzeit beantworten können: Welche Agenten laufen? Wer verantwortet sie? Was dürfen sie erreichen? Aufgaben lassen sich delegieren. Verantwortung nicht.

Alexander Peters
ist Senior Manager Sales Engineering für die Regionen DACH und Northern Europe bei Mimecast.

Bildquelle:

Jetzt Newsletter abonnieren

Verpassen Sie nicht unsere besten Inhalte

Geschäftliche E-Mail

Bitte geben Sie eine gültige E-Mailadresse ein.

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Stand: 16.12.2025

Es ist für uns eine Selbstverständlichkeit, dass wir verantwortungsvoll mit Ihren personenbezogenen Daten umgehen. Sofern wir personenbezogene Daten von Ihnen erheben, verarbeiten wir diese unter Beachtung der geltenden Datenschutzvorschriften. Detaillierte Informationen finden Sie in unserer Datenschutzerklärung.

Einwilligung in die Verwendung von Daten zu Werbezwecken

Ich bin damit einverstanden, dass die WIN-Verlag GmbH & Co. KG, Chiemgaustraße 148, 81549 München einschließlich aller mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen (im weiteren: Vogel Communications Group) meine E-Mail-Adresse für die Zusendung von redaktionellen Newslettern nutzt. Auflistungen der jeweils zugehörigen Unternehmen können hier abgerufen werden.

Der Newsletterinhalt erstreckt sich dabei auf Produkte und Dienstleistungen aller zuvor genannten Unternehmen, darunter beispielsweise Fachzeitschriften und Fachbücher, Veranstaltungen und Messen sowie veranstaltungsbezogene Produkte und Dienstleistungen, Print- und Digital-Mediaangebote und Services wie weitere (redaktionelle) Newsletter, Gewinnspiele, Lead-Kampagnen, Marktforschung im Online- und Offline-Bereich, fachspezifische Webportale und E-Learning-Angebote. Wenn auch meine persönliche Telefonnummer erhoben wurde, darf diese für die Unterbreitung von Angeboten der vorgenannten Produkte und Dienstleistungen der vorgenannten Unternehmen und Marktforschung genutzt werden.

Meine Einwilligung umfasst zudem die Verarbeitung meiner E-Mail-Adresse und Telefonnummer für den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern wie z.B. LinkedIN, Google und Meta. Hierfür darf die Vogel Communications Group die genannten Daten gehasht an Werbepartner übermitteln, die diese Daten dann nutzen, um feststellen zu können, ob ich ebenfalls Mitglied auf den besagten Werbepartnerportalen bin. Die Vogel Communications Group nutzt diese Funktion zu Zwecken des Retargeting (Upselling, Crossselling und Kundenbindung), der Generierung von sog. Lookalike Audiences zur Neukundengewinnung und als Ausschlussgrundlage für laufende Werbekampagnen. Weitere Informationen kann ich dem Abschnitt „Datenabgleich zu Marketingzwecken“ in der Datenschutzerklärung entnehmen.

Falls ich im Internet auf Portalen der Vogel Communications Group einschließlich deren mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen geschützte Inhalte abrufe, muss ich mich mit weiteren Daten für den Zugang zu diesen Inhalten registrieren. Im Gegenzug für diesen gebührenlosen Zugang zu redaktionellen Inhalten dürfen meine Daten im Sinne dieser Einwilligung für die hier genannten Zwecke verwendet werden.

Recht auf Widerruf

Mir ist bewusst, dass ich diese Einwilligung jederzeit für die Zukunft widerrufen kann. Durch meinen Widerruf wird die Rechtmäßigkeit der aufgrund meiner Einwilligung bis zum Widerruf erfolgten Verarbeitung nicht berührt. Um meinen Widerruf zu erklären, kann ich als eine Möglichkeit das unter https://kontakt.vogel.de/de/win abrufbare Kontaktformular nutzen. Sofern ich einzelne von mir abonnierte Newsletter nicht mehr erhalten möchte, kann ich darüber hinaus auch den am Ende eines Newsletters eingebundenen Abmeldelink anklicken. Weitere Informationen zu meinem Widerrufsrecht und dessen Ausübung sowie zu den Folgen meines Widerrufs finde ich in der Datenschutzerklärung, Abschnitt Redaktionelle Newsletter.