Mobile-Menu
  DB Podcast

KI-Agenten: Souveräne Lösungen für Unternehmen in Europa

< zurück

Seite: 2/2

Anbieter zum Thema

d.velop AG
Esker Software Entwicklungs-und Vertrieb
Yorizon GmbH & Co. KG

Human-in-the-Loop und KI-Agenten im Prozess

Ganz oben bei den Befürchtungen bezüglich KI-Agenten rangiert die Angst, dass sie eigenständig Entscheidungen treffen, die dem Unternehmen oder sogar Menschen schaden. Für dieses Szenario müsste allerdings zuvor ein menschlicher Nutzer die relevanten Zugänge zu sensiblen Daten an den Agenten übergeben und anschließend komplett auf den letzten menschlichen Freigabeschritt verzichten. Um das zu verhindern, werden die Mitarbeitenden einiger Branchen nicht nur entsprechend geschult, sondern auch regulatorisch ist der Human-in-the-Loop-Ansatz vorgeschrieben. Beispielsweise kann KI zwar die Vorarbeit für Kreditformalitäten im Finanzwesen erledigen, die endgültige Entscheidung, ob der Kredit gewährt wird, muss aber immer bei einem Menschen liegen.

Entscheidend ist, dass Human-in-the-Loop kein binäres Prinzip darstellt, sondern ein abgestuftes Modell entlang des jeweiligen Risikos. Je nach Prozess und Risikoklasse reicht das Spektrum von reinen Vorschlägen mit menschlicher Prüfung über freigabepflichtige Aktionen bis hin zu definierten Routineaufgaben, die ein Agent eigenständig innerhalb klarer Grenzen ausführt – stets mit vollständigem Audit-Trail. Genau diese Abstufung bildet die zentrale Designfrage beim Einsatz von KI-Agenten im Unternehmen.

Wie können souveräne KI-Agenten zukünftig aussehen?

Hinzu kommt die Integration in Geschäftsprozesse. Viele spezialisierte Agenten, die klar definierte Aufgaben in bestehenden Strukturen übernehmen, wirken deutlich weniger dystopisch als eine „autonome Super-KI“, die nach dem Black-Box-Prinzip intransparent entscheidet und unmittelbar handelt. Es ist daher zu erwarten, dass es zukünftig sehr viel mehr Agenten geben wird, die sich durch hohe Spezialisierung, tiefe Integration und menschliche Aufsicht auszeichnen. In Kombination mit Wahlfreiheit und Austauschbarkeit von Modellen, lässt sich digitale Transformation mit der Forderung nach Souveränität vereinen.

Souveränität ist dabei kein Zustand, sondern eine Architekturentscheidung – und sie hat einen Preis, etwa in zusätzlicher Komplexität oder Qualitätsunterschieden zwischen Modellen. Für europäische Unternehmen ist diese Investition in vielen Fällen nicht nur strategisch sinnvoll, sondern regulatorisch geboten. Die zentrale Frage für Entscheider lautet deshalb nicht mehr „Souveränität oder Innovation?“, sondern: Welche Agenten-Architektur sichert beides – heute und bei wechselnden Rahmenbedingungen?

Q&A: Digitale Souveränität und Agenten

Heißt Souveränität im KI-Kontext, dass alles on-premise laufen muss?
Nein. Absolute Souveränität ist selten realistisch oder wirtschaftlich sinnvoll. Häufig ist ein abgestufter Ansatz optimal: sensible Daten und kritische Schritte stärker abschotten, weniger kritische Funktionen flexibel, wie in europäischen Clouds oder mit großen Modellen betreiben.

Warum ist die Trennung von Agent und Sprachmodell wichtig?
Ein Agent ist die in Prozesse integrierte „Handlungsebene“ (Ziele, Tools, Aktionen, Regeln). Das Sprachmodell ist nur eine austauschbare Komponente. Diese Entkopplung ermöglicht es, je nach Risiko, Kosten und Datenlage unterschiedliche Modelle zu nutzen – bis hin zu lokalen SLMs.

Wann reichen lokale Modelle aus und wann braucht es große LLMs?
Für klar umrissene, wiederkehrende Aufgaben mit reinen Unternehmensdaten können SLMs ausreichend sein. Große LLMs spielen ihre Stärke aus, wenn Aufgaben breiter, sprachlich komplexer oder stärker auf Allgemeinwissen angewiesen sind. Entscheidend ist, den Modellmix an Anforderungen, Qualität und Compliance auszurichten.

Wie verhindert man, dass Agenten außer Kontrolle geraten?
Durch abgestuftes Human-in-the-Loop-Design: von reinen Vorschlägen über freigabepflichtige Aktionen bis zu klar begrenzten Routinen. Zusätzlich braucht es Rollen- und Rechtekonzepte, sichere Tool-Anbindungen und vollständige Protokollierung der Entscheidungen von KI-Agenten.

Welche Rolle spielen offene Standards und APIs?
Sie sind der Schlüssel zur Wahlfreiheit: Modelle lassen sich austauschen, Komponenten lassen sich modular betreiben, und Abhängigkeiten werden reduziert. Gleichzeitig unterstützt das die Resilienz-Anforderungen, zum Beispiel im Kontext von DORA.

Nico Bäumer d.velopNico Bäumer
ist Vorstand und CTO der d.velop AG und treibt mit seiner langjährigen Erfahrung im Produktmanagement und in der Produktentwicklung die Innovationsstrategie des Anbieters einer Plattform zur Digitalisierung von Dokumentenprozessen voran.

Bildquelle: d.velop AG

Jetzt Newsletter abonnieren

Verpassen Sie nicht unsere besten Inhalte

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte