DB Podcast

Autonome Systeme

KI-Agenten: Warum deren Einsatz Leitplanken erfordert

< zurück

Seite: 2/2

Anbieter zum Thema

AI Act ist wichtig für den Einsatz von KI-Agenten

Mit dem AI Act hat die Europäische Union die weltweit erste umfassende Regulierung von KI geschaffen. Kritiker haben im Vorfeld befürchtet, dadurch könnte die Innovationskraft auf diesem Feld in Europa leiden. Doch die jüngsten Vorfälle zeigen: Nicht alles, was technisch möglich ist, ist auch gesellschaftlich wünschenswert. Daher brauchen wir Regulierung, um Innovation in geregelten Bahnen zu ermöglichen. Dabei geht es immer auch um die Akzeptanz der Technologie und der dahinterstehenden Unternehmen in der Bevölkerung.

Ohne klare Regeln dafür, was die Technologie darf und was nicht, drohen zunehmende Ablehnung und Gegenbewegungen. Unter diesem Aspekt kann man den AI Act als wichtigen Vorstoß verstehen, KI gesellschaftsverträglich und mit wirklichem Mehrwert in unseren Alltag zu integrieren. Allerdings mahlen die Mühlen der Regulierung langsamer als der rasante technologische Fortschritt. Gerade die Entwicklung autonomer KI-Agenten zeigt, dass gesetzliche Vorgaben allein nicht ausreichen.

Die Grenzen ziehen die Unternehmen selbst

Wo gesetzliche Vorgaben an ihre Grenzen stoßen, müssen Unternehmen selbst festlegen, wie weit ein Agent autonom handeln darf und wann der Mensch eingreifen muss. Diese Festlegung ist eine Führungsentscheidung. Sie bestimmt, welche Aufgaben ein Agent eigenständig abschließen darf, welche er lediglich vorbereitet und welche ohne menschliche Prüfung gar nicht erst ausgeführt werden.

Die Rolle des Menschen verändert sich dadurch, verschwindet aber nicht. Mitarbeitende kontrollieren nicht jeden einzelnen Schritt, sondern definieren Ziele und Grenzen und greifen an den entscheidenden Stellen ein. Die KI übernimmt Geschwindigkeit, Skalierung und Routine. Das Urteil über den Kontext bleibt beim Menschen. Diese kontrollierte Zusammenarbeit ist die Grundlage für vertrauenswürdige KI-Agenten und sie setzt voraus, dass jederzeit nachvollziehbar bleibt, auf welcher Grundlage ein Agent gehandelt hat.

Agent Center: Autonomie erfordert Transparenz und Kontrolle

Wie schnell aus Automatisierung Chaos wird, zeigt sich schon im normalen Berufsalltag. Im KI-gestützten Dokumentenmanagement können bereits kleine Fehler große Wirkung entfalten: Ein falsch klassifiziertes Dokument landet in der falschen Akte, eine unzuverlässige Berechtigungslogik legt vertrauliche Informationen offen, eine unkontrollierte Änderung verletzt Aufbewahrungspflichten. Mit der der Abwicklung von Geschäftsprozessen durch KI-Agenten wächst dieses Risiko überproportional. Künftig übernehmen mehrere Agenten Aufgaben gemeinsam: Sie bereiten Entscheidungen vor, führen Prozessschritte aus und übergeben Ergebnisse an andere Agenten oder menschliche Mitarbeiter. Für den Einzelnen wird dabei kaum noch erkennbar, welcher Agent gerade was tut, auf welcher Grundlage er handelt und an welcher Stelle ein Mensch beteiligt war. Ohne diese Transparenz lässt sich im Zweifel auch die Verantwortung nicht mehr zuordnen.

Genau hier setzt ein Agent Center an: Es bietet eine zentrale Sicht auf das Zusammenspiel von Menschen und Agenten. Es protokolliert, wer oder was einen Prozessschritt ausgeführt hat, welche Entscheidung auf welcher Grundlage getroffen wurde und wann ein Mensch freigegeben oder korrigiert hat. Agenten handeln innerhalb klar definierter Zugriffsrechte, kritische Aktionen bleiben an eine menschliche Freigabe gebunden. Dabei geht es nicht darum, jeden Agenten einzeln zu beaufsichtigen: Nicht jeder Agent braucht eine permanente menschliche Aufsicht.

Der Mensch braucht aber einen zentralen Ort, an dem er alle Agenten und deren Aktivitäten im Blick behält. Für das Dokumentenmanagement ist das keine fremde Disziplin, denn Nachvollziehbarkeit, revisionssichere Protokollierung und belastbare Berechtigungslogik sind dort seit jeher Kern des Geschäfts. Neu ist allein, dass nicht mehr nur Dokumente und menschliche Handlungen zu dokumentieren sind, sondern auch die Entscheidungen autonomer Agenten. So übernehmen Agenten wiederkehrende Aufgaben zuverlässig, während Urteilsvermögen und Kontrolle über das Gesamtsystem beim Menschen bleiben.

KI-Agenten: Die Modellwahl gibt den Rahmen vor

Kontrolle endet nicht bei der Frage, was KI-Agenten tun dürfen. Sie umfasst auch die Frage, worauf er dabei aufsetzt. Wer protokolliert, welcher Agent eine Entscheidung getroffen hat, sollte ebenso beantworten können, welches Modell dabei im Spiel war und wo es betrieben wird. Damit rückt neben Governance und Datenschutz die digitale Souveränität in den Mittelpunkt. Je nach Kritikalität des Anwendungsfalls können Unternehmen zwischen internationalen Modellen, europäischen Alternativen und eigenen spezialisierten Sprachmodellen für genau umrissene Aufgaben wählen – im Idealfall im Zusammenspiel und über dieselbe Ebene orchestriert. Diese Wahl ist eine unternehmerische Entscheidung. Sie lässt sich weder an den Gesetzgeber noch an einen Technologieanbieter delegieren. Verantwortlich bleibt das Unternehmen, das den Agenten einsetzt.

Jetzt Newsletter abonnieren

Verpassen Sie nicht unsere besten Inhalte

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Nico Bäumer
ist Vorstand und Chief Technology Officer bei der d.velop AG. Mit seiner langjährigen Erfahrung im Produktmanagement und in der Produktentwicklung treibt er die Innovations- und Digitalisierungsstrategie von d.velop voran.

Bildquelle: d.velop AG