Mit dem AI Act hat die Europäische Union die weltweit erste umfassende Regulierung von KI geschaffen. Kritiker haben im Vorfeld befürchtet, dadurch könnte die Innovationskraft auf diesem Feld in Europa leiden. Doch die jüngsten Vorfälle zeigen: Nicht alles, was technisch möglich ist, ist auch gesellschaftlich wünschenswert. Daher brauchen wir Regulierung, um Innovation in geregelten Bahnen zu ermöglichen. Dabei geht es immer auch um die Akzeptanz der Technologie und der dahinterstehenden Unternehmen in der Bevölkerung.
Ohne klare Regeln dafür, was die Technologie darf und was nicht, drohen zunehmende Ablehnung und Gegenbewegungen. Unter diesem Aspekt kann man den AI Act als wichtigen Vorstoß verstehen, KI gesellschaftsverträglich und mit wirklichem Mehrwert in unseren Alltag zu integrieren. Allerdings mahlen die Mühlen der Regulierung langsamer als der rasante technologische Fortschritt. Gerade die Entwicklung autonomer KI-Agenten zeigt, dass gesetzliche Vorgaben allein nicht ausreichen.
Die Grenzen ziehen die Unternehmen selbst
Wo gesetzliche Vorgaben an ihre Grenzen stoßen, müssen Unternehmen selbst festlegen, wie weit ein Agent autonom handeln darf und wann der Mensch eingreifen muss. Diese Festlegung ist eine Führungsentscheidung. Sie bestimmt, welche Aufgaben ein Agent eigenständig abschließen darf, welche er lediglich vorbereitet und welche ohne menschliche Prüfung gar nicht erst ausgeführt werden.
Die Rolle des Menschen verändert sich dadurch, verschwindet aber nicht. Mitarbeitende kontrollieren nicht jeden einzelnen Schritt, sondern definieren Ziele und Grenzen und greifen an den entscheidenden Stellen ein. Die KI übernimmt Geschwindigkeit, Skalierung und Routine. Das Urteil über den Kontext bleibt beim Menschen. Diese kontrollierte Zusammenarbeit ist die Grundlage für vertrauenswürdige KI-Agenten und sie setzt voraus, dass jederzeit nachvollziehbar bleibt, auf welcher Grundlage ein Agent gehandelt hat.
Agent Center: Autonomie erfordert Transparenz und Kontrolle
Wie schnell aus Automatisierung Chaos wird, zeigt sich schon im normalen Berufsalltag. Im KI-gestützten Dokumentenmanagement können bereits kleine Fehler große Wirkung entfalten: Ein falsch klassifiziertes Dokument landet in der falschen Akte, eine unzuverlässige Berechtigungslogik legt vertrauliche Informationen offen, eine unkontrollierte Änderung verletzt Aufbewahrungspflichten. Mit der der Abwicklung von Geschäftsprozessen durch KI-Agenten wächst dieses Risiko überproportional. Künftig übernehmen mehrere Agenten Aufgaben gemeinsam: Sie bereiten Entscheidungen vor, führen Prozessschritte aus und übergeben Ergebnisse an andere Agenten oder menschliche Mitarbeiter. Für den Einzelnen wird dabei kaum noch erkennbar, welcher Agent gerade was tut, auf welcher Grundlage er handelt und an welcher Stelle ein Mensch beteiligt war. Ohne diese Transparenz lässt sich im Zweifel auch die Verantwortung nicht mehr zuordnen.
Genau hier setzt ein Agent Center an: Es bietet eine zentrale Sicht auf das Zusammenspiel von Menschen und Agenten. Es protokolliert, wer oder was einen Prozessschritt ausgeführt hat, welche Entscheidung auf welcher Grundlage getroffen wurde und wann ein Mensch freigegeben oder korrigiert hat. Agenten handeln innerhalb klar definierter Zugriffsrechte, kritische Aktionen bleiben an eine menschliche Freigabe gebunden. Dabei geht es nicht darum, jeden Agenten einzeln zu beaufsichtigen: Nicht jeder Agent braucht eine permanente menschliche Aufsicht.
Der Mensch braucht aber einen zentralen Ort, an dem er alle Agenten und deren Aktivitäten im Blick behält. Für das Dokumentenmanagement ist das keine fremde Disziplin, denn Nachvollziehbarkeit, revisionssichere Protokollierung und belastbare Berechtigungslogik sind dort seit jeher Kern des Geschäfts. Neu ist allein, dass nicht mehr nur Dokumente und menschliche Handlungen zu dokumentieren sind, sondern auch die Entscheidungen autonomer Agenten. So übernehmen Agenten wiederkehrende Aufgaben zuverlässig, während Urteilsvermögen und Kontrolle über das Gesamtsystem beim Menschen bleiben.
KI-Agenten: Die Modellwahl gibt den Rahmen vor
Kontrolle endet nicht bei der Frage, was KI-Agenten tun dürfen. Sie umfasst auch die Frage, worauf er dabei aufsetzt. Wer protokolliert, welcher Agent eine Entscheidung getroffen hat, sollte ebenso beantworten können, welches Modell dabei im Spiel war und wo es betrieben wird. Damit rückt neben Governance und Datenschutz die digitale Souveränität in den Mittelpunkt. Je nach Kritikalität des Anwendungsfalls können Unternehmen zwischen internationalen Modellen, europäischen Alternativen und eigenen spezialisierten Sprachmodellen für genau umrissene Aufgaben wählen – im Idealfall im Zusammenspiel und über dieselbe Ebene orchestriert. Diese Wahl ist eine unternehmerische Entscheidung. Sie lässt sich weder an den Gesetzgeber noch an einen Technologieanbieter delegieren. Verantwortlich bleibt das Unternehmen, das den Agenten einsetzt.
Stand: 16.12.2025
Es ist für uns eine Selbstverständlichkeit, dass wir verantwortungsvoll mit Ihren personenbezogenen Daten umgehen. Sofern wir personenbezogene Daten von Ihnen erheben, verarbeiten wir diese unter Beachtung der geltenden Datenschutzvorschriften. Detaillierte Informationen finden Sie in unserer Datenschutzerklärung.
Einwilligung in die Verwendung von Daten zu Werbezwecken
Ich bin damit einverstanden, dass die WIN-Verlag GmbH & Co. KG, Chiemgaustraße 148, 81549 München einschließlich aller mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen (im weiteren: Vogel Communications Group) meine E-Mail-Adresse für die Zusendung von redaktionellen Newslettern nutzt. Auflistungen der jeweils zugehörigen Unternehmen können hier abgerufen werden.
Der Newsletterinhalt erstreckt sich dabei auf Produkte und Dienstleistungen aller zuvor genannten Unternehmen, darunter beispielsweise Fachzeitschriften und Fachbücher, Veranstaltungen und Messen sowie veranstaltungsbezogene Produkte und Dienstleistungen, Print- und Digital-Mediaangebote und Services wie weitere (redaktionelle) Newsletter, Gewinnspiele, Lead-Kampagnen, Marktforschung im Online- und Offline-Bereich, fachspezifische Webportale und E-Learning-Angebote. Wenn auch meine persönliche Telefonnummer erhoben wurde, darf diese für die Unterbreitung von Angeboten der vorgenannten Produkte und Dienstleistungen der vorgenannten Unternehmen und Marktforschung genutzt werden.
Meine Einwilligung umfasst zudem die Verarbeitung meiner E-Mail-Adresse und Telefonnummer für den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern wie z.B. LinkedIN, Google und Meta. Hierfür darf die Vogel Communications Group die genannten Daten gehasht an Werbepartner übermitteln, die diese Daten dann nutzen, um feststellen zu können, ob ich ebenfalls Mitglied auf den besagten Werbepartnerportalen bin. Die Vogel Communications Group nutzt diese Funktion zu Zwecken des Retargeting (Upselling, Crossselling und Kundenbindung), der Generierung von sog. Lookalike Audiences zur Neukundengewinnung und als Ausschlussgrundlage für laufende Werbekampagnen. Weitere Informationen kann ich dem Abschnitt „Datenabgleich zu Marketingzwecken“ in der Datenschutzerklärung entnehmen.
Falls ich im Internet auf Portalen der Vogel Communications Group einschließlich deren mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen geschützte Inhalte abrufe, muss ich mich mit weiteren Daten für den Zugang zu diesen Inhalten registrieren. Im Gegenzug für diesen gebührenlosen Zugang zu redaktionellen Inhalten dürfen meine Daten im Sinne dieser Einwilligung für die hier genannten Zwecke verwendet werden.
Recht auf Widerruf
Mir ist bewusst, dass ich diese Einwilligung jederzeit für die Zukunft widerrufen kann. Durch meinen Widerruf wird die Rechtmäßigkeit der aufgrund meiner Einwilligung bis zum Widerruf erfolgten Verarbeitung nicht berührt. Um meinen Widerruf zu erklären, kann ich als eine Möglichkeit das unter https://kontakt.vogel.de/de/win abrufbare Kontaktformular nutzen. Sofern ich einzelne von mir abonnierte Newsletter nicht mehr erhalten möchte, kann ich darüber hinaus auch den am Ende eines Newsletters eingebundenen Abmeldelink anklicken. Weitere Informationen zu meinem Widerrufsrecht und dessen Ausübung sowie zu den Folgen meines Widerrufs finde ich in der Datenschutzerklärung, Abschnitt Redaktionelle Newsletter.
Nico Bäumer ist Vorstand und Chief Technology Officer bei der d.velop AG. Mit seiner langjährigen Erfahrung im Produktmanagement und in der Produktentwicklung treibt er die Innovations- und Digitalisierungsstrategie von d.velop voran.