Anbieter zum Thema

d.velop AG

Esker Software Entwicklungs-und Vertrieb

Yorizon GmbH & Co. KG

Digitale Souveränität trägt zu resilienten Infrastrukturen bei

Wichtig ist deshalb, dass Unternehmen die Flexibilität und Wahlfreiheit haben, wie sie die in ihre Software integrierten Agenten betreiben wollen. APIs und offene Interoperabilitätsstandards sorgen dafür, dass verschiedene Modelle angebunden werden können – von lokal gehostet, über europäische Anbieter in heimischen Clouds bis hin zu den großen LLMs. Die Wahlfreiheit und Austauschbarkeit machen digitale Souveränität aus. Außerdem trägt dieser Aspekt zur Resilienz von Infrastrukturen bei, wie sie beispielsweise durch Regularien wie DORA gefordert wird.

Digitale Souveränität umfasst dabei mehr als die Wahl des Modells. Sie betrifft den gesamten Agenten-Stack: die Kontrolle über Unternehmensdaten, die Orchestrierungsebene, die definierten Aktionen und Werkzeuge eines Agenten sowie die Nachvollziehbarkeit seiner Entscheidungen. Eine belastbare Souveränitätsstrategie berücksichtigt all diese Aspekte – und nicht nur die Frage, welches LLM im Hintergrund läuft.

Human-in-the-Loop und Agenten im Prozess

Ganz oben bei den Befürchtungen bezüglich KI-Agenten rangiert die Angst, dass sie eigenständig Entscheidungen treffen, die dem Unternehmen oder sogar Menschen schaden. Für dieses Szenario müsste allerdings zuvor ein menschlicher Nutzer die relevanten Zugänge zu sensiblen Daten an den Agenten übergeben und anschließend komplett auf den letzten menschlichen Freigabeschritt verzichten. Um das zu verhindern, werden die Mitarbeitenden einiger Branchen nicht nur entsprechend geschult, sondern auch regulatorisch ist der Human-in-the-Loop-Ansatz vorgeschrieben. Beispielsweise kann KI zwar die Vorarbeit für Kreditformalitäten im Finanzwesen erledigen, die endgültige Entscheidung, ob der Kredit gewährt wird, muss aber immer bei einem Menschen liegen.

Entscheidend ist, dass Human-in-the-Loop kein binäres Prinzip darstellt, sondern ein abgestuftes Modell entlang des jeweiligen Risikos. Je nach Prozess und Risikoklasse reicht das Spektrum von reinen Vorschlägen mit menschlicher Prüfung über freigabepflichtige Aktionen bis hin zu definierten Routineaufgaben, die ein Agent eigenständig innerhalb klarer Grenzen ausführt – stets mit vollständigem Audit-Trail. Genau diese Abstufung bildet die zentrale Designfrage beim Einsatz von KI-Agenten im Unternehmen.

Digitale Souveränität: Was zukünftige Agenten erfüllen müssen

Hinzu kommt die Integration in Geschäftsprozesse. Viele spezialisierte Agenten, die klar definierte Aufgaben in bestehenden Strukturen übernehmen, wirken deutlich weniger dystopisch als eine „autonome Super-KI“, die nach dem Black-Box-Prinzip intransparent entscheidet und unmittelbar handelt. Es ist daher zu erwarten, dass es zukünftig sehr viel mehr Agenten geben wird, die sich durch hohe Spezialisierung, tiefe Integration und menschliche Aufsicht auszeichnen. In Kombination mit Wahlfreiheit und Austauschbarkeit von Modellen, lässt sich digitale Transformation mit der Forderung nach Souveränität vereinen.

Souveränität ist dabei kein Zustand, sondern eine Architekturentscheidung – und sie hat einen Preis, etwa in zusätzlicher Komplexität oder Qualitätsunterschieden zwischen Modellen. Für europäische Unternehmen ist diese Investition in vielen Fällen nicht nur strategisch sinnvoll, sondern regulatorisch geboten. Die zentrale Frage für Entscheider lautet deshalb nicht mehr „Souveränität oder Innovation?“, sondern: Welche Agenten-Architektur sichert beides – heute und bei wechselnden Rahmenbedingungen?