KI-Strategie Agenten, Daten, Kontrolle – die nächste Stufe der KI-Governance

Anbieter zum Thema

SAS Institute GmbH

CADFEM Germany GmbH

d.velop AG

Esker Software Entwicklungs-und Vertrieb

Künstliche Intelligenz hat den Sprung aus der Experimentierphase in den produktiven Einsatz geschafft – und stellt Unternehmen vor neue Herausforderungen. Udo Sglavo von SAS Institute erklärt im Gespräch, warum KI-Governance jetzt zum entscheidenden Faktor wird.

Warum wird KI-Governance gerade jetzt zum entscheidenden Thema in Unternehmen?

Udo Sglavo: Wir erleben aktuell einen echten Wendepunkt. In den vergangenen Jahren war KI stark von Experimenten geprägt. Unternehmen haben Prototypen gebaut, erste Use Cases getestet und Erfahrungen gesammelt. Jetzt geht es darum, diese Ansätze in den produktiven Betrieb zu überführen. Und genau in diesem Moment verändert sich die Perspektive grundlegend. KI ist kein isoliertes Projekt mehr, sondern Teil geschäftskritischer Prozesse. Damit greifen automatisch dieselben Anforderungen wie bei jeder anderen Unternehmenssoftware: Kontrolle, Nachvollziehbarkeit und klare Verantwortlichkeiten. Parallel dazu steigt der regulatorische Druck, etwa durch europäische Vorgaben. Diese beiden Entwicklungen zusammen sorgen dafür, dass Governance heute nicht mehr optional ist.

Was bedeutet dieser Übergang konkret für Organisationen?

Der größte Unterschied liegt in der Verbindlichkeit. Früher konnte ein Team relativ frei experimentieren. Heute muss KI in bestehende Strukturen integriert werden. Das betrifft IT, Fachbereiche und Compliance gleichermaßen. Unternehmen müssen genau wissen, wo KI eingesetzt wird, welche Modelle verwendet werden und welche Daten zugrunde liegen. Ohne diese Transparenz entsteht schnell eine Art Schattenlandschaft, die sich später kaum noch kontrollieren lässt. Genau das ist aktuell in vielen Organisationen zu beobachten.

Der Gesprächspartner

Udo Sglavo ist Vice President Applied Artificial Intelligence and Modeling Research & Development bei der SAS Institute GmbH. Er verantwortet die Entwicklung moderner KI- und Analytics-Lösungen und verfügt über langjährige Erfahrung in datengetriebenen Technologien, insbesondere in den Branchen Finance, Healthcare und Government.

Sie heben besonders die Bedeutung der Daten hervor. Warum ist das der zentrale Ansatzpunkt?

Udo Sglavo: Weil Daten die Grundlage jeder KI sind. Gleichzeitig werden sie im Kontext von Governance oft unterschätzt. In der Praxis sehen wir, dass Mitarbeitende problemlos externe Tools nutzen können – unabhängig von internen Richtlinien. Das führt dazu, dass sensible Informationen potenziell in Systeme gelangen, die außerhalb der Kontrolle des Unternehmens liegen. Deshalb müssen Organisationen sehr klar definieren, welche Daten für KI-Anwendungen überhaupt freigegeben sind. Es geht um interne Dokumente, personenbezogene Informationen oder strategisch relevante Inhalte.

Wie lässt sich dieser Anspruch organisatorisch umsetzen?

Udo Sglavo: Ein wichtiger Hebel ist die systematische Klassifizierung von Daten. Unternehmen führen zunehmend Prozesse ein, bei denen Inhalte mit Labels versehen werden. Diese Kennzeichnung legt fest, wie Daten genutzt werden dürfen – etwa intern, eingeschränkt oder gar nicht für KI. Das klingt zunächst nach zusätzlichem Aufwand, ist aber essenziell. Denn Large Language Models haben eine Eigenschaft, die oft unterschätzt wird: Wenn Daten erst einmal in die Modelle eingeflossen sind, ist es schwierig und teuer, den Effekt wieder rückgängig zu machen. Deshalb muss die Kontrolle vor der Nutzung ansetzen, nicht danach.

KI-Governance: Überblick über KI-Systeme behalten

Neben den Daten stellt sich die Frage nach der Gesamtübersicht. Wie behalten Unternehmen den Überblick über ihre KI-Systeme?

Udo Sglavo: Genau an diesem Punkt setzen wir mit dem SAS AI Navigator an. Das ist ein Governance- und Transparenzwerkzeug, das Unternehmen eine zentrale Sicht auf ihre KI-Landschaft ermöglicht. Es zeigt, welche Modelle im Einsatz sind, welche Anwendungsfälle sie unterstützen, welche Daten verwendet werden und wer Zugriff darauf hat. Damit entsteht erstmals eine strukturierte Grundlage, um KI aktiv zu steuern, statt sie nur zu beobachten.

Es entstehen ständig neue Modelle mit unterschiedlichen Stärken, Kostenstrukturen und Einsatzmöglichkeiten. Unternehmen stehen vor der Herausforderung, diese Optionen sinnvoll zu bewerten und flexibel zu nutzen.

Udo Sglavo

Warum wird diese Transparenz gerade jetzt so wichtig?

Udo Sglavo: Weil sich der Markt extrem dynamisch entwickelt. Es entstehen ständig neue Modelle mit unterschiedlichen Stärken, Kostenstrukturen und Einsatzmöglichkeiten. Unternehmen stehen vor der Herausforderung, diese Optionen sinnvoll zu bewerten und flexibel zu nutzen. Das funktioniert nur, wenn sie genau wissen, wo und wie KI aktuell eingesetzt wird. Transparenz ist damit die Voraussetzung für wirtschaftliche und technologische Entscheidungen.

War die Entwicklung solcher Tools eher technologiegetrieben oder kam der Impuls aus dem Markt?

Udo Sglavo: Ganz klar aus dem Markt. Viele unserer Kunden haben mehrere Modelle parallel eingeführt und stehen jetzt vor der Frage, wie sie diese strukturieren und kontrollieren können. Sie wissen oft nicht mehr genau, welcher Geschäftsprozess von welchem Modell unterstützt wird. Daraus entsteht ein konkreter Bedarf, den wir adressieren. SAS entwickelt traditionell sehr eng entlang realer Anforderungen.

Einsatz von KI

KI-Governance: Diese darf nicht dem Zufall überlassen werden