Anbieter zum Thema

SAS Institute GmbH

CADFEM Germany GmbH

d.velop AG

Esker Software Entwicklungs-und Vertrieb

Herausforderungen bei der KI-Governance

Gibt es Branchen, in denen KI-Governance besonders herausfordernd ist?

Udo Sglavo: Healthcare ist ein gutes Beispiel, weil dort mehrere kritische Faktoren zusammenkommen: hochsensible Daten, strenge Regulierung und potenziell weitreichende Auswirkungen von Entscheidungen. Deshalb gehen wir hier bewusst schrittweise vor und starten mit Anwendungsfällen, die weniger kritisch sind, etwa in der Ressourcenplanung oder Organisation von Abläufen.

Sie setzen in diesem Kontext auch auf digitale Zwillinge. Welche Rolle spielen sie?

Udo Sglavo: Digitale Zwillinge ermöglichen es, reale Umgebungen virtuell abzubilden und Szenarien durchzuspielen, die in der Realität schwer beobachtbar sind. Das können beispielsweise Krisensituationen oder Extrembelastungen sein. Der Vorteil liegt darin, dass wir Daten generieren, die sonst nicht verfügbar wären. Diese Daten helfen wiederum, Systeme robuster zu machen und bessere Entscheidungen vorzubereiten.

Wird Governance in Unternehmen eher als Bremse wahrgenommen?

Udo Sglavo: Diese Wahrnehmung gibt es, aber sie greift zu kurz. In stark regulierten Branchen ist Governance seit Jahrzehnten etabliert und wird dort nicht als Hindernis gesehen, sondern als Voraussetzung für stabile Prozesse. Genau diese Erfahrung übertragen wir auf KI. Wer klare Strukturen hat, kann Innovation gezielter und sicherer vorantreiben. Ohne KI-Governance entsteht dagegen Unsicherheit – und die bremst in der Regel stärker.

Vertrauen in KI-Modelle als Erfolgsfaktor

Sie sprechen von Vertrauen als zentralem Erfolgsfaktor. Wie lässt sich das konkret greifen?

Udo Sglavo: Vertrauen hängt stark vom jeweiligen System ab. Bei klassischen, deterministischen Modellen können wir sehr genau messen, wie zuverlässig sie arbeiten, ob Verzerrungen vorliegen und wie stabil die Ergebnisse sind. Dafür gibt es etablierte statistische Verfahren. Bei Large Language Models ist das schwieriger, weil sie bewusst variabel reagieren. Deshalb braucht es hier andere Ansätze und ein differenziertes Verständnis der Technologie

Viele Diskussionen drehen sich um autonome, selbstlernende Systeme. Wie realistisch ist dieses Szenario aktuell?

Udo Sglavo: Es wird derzeit häufig überzeichnet. Reinforcement Learning ist zwar ein bekanntes Konzept, aber in der Praxis sind die meisten Systeme weit davon entfernt, sich eigenständig weiterzuentwickeln. Oft geht es eher darum, Interaktionen zu speichern und wiederzuverwenden. Die Vorstellung vollständig autonomer Systeme im Unternehmensalltag ist im Moment noch Zukunftsmusik.

Mit Blick auf KI-Agenten: Reichen bestehende Governance-Konzepte aus?

Udo Sglavo: Nein, langfristig nicht. Wir sehen aktuell erste Agentensysteme, die in klar definierten Rahmen arbeiten und meist noch einen Menschen in der Schleife haben. Wenn diese Systeme unabhängiger werden, brauchen wir neue Governance-Ansätze. Allerdings stehen wir hier noch am Anfang. Viele grundlegende Fragen sind noch nicht abschließend geklärt.

Was bedeutet das für Unternehmen, die heute investieren?

Udo Sglavo: Sie sollten pragmatisch vorgehen und sich nicht von Visionen treiben lassen. Nicht jedes Problem erfordert den Einsatz von KI-Agenten oder hochkomplexen Modellen. Wichtig ist, den konkreten Nutzen zu definieren und gleichzeitig Governance von Anfang an mitzudenken. KI ist ein leistungsfähiges Werkzeug – aber nur dann, wenn es kontrolliert eingesetzt wird.