AI-Governance-Framework Generative KI: Unternehmen sind im Blindflug unterwegs

Anbieter zum Thema

LeanIX GmbH

xSuite Group GmbH

Esker Software Entwicklungs-und Vertrieb

Yorizon GmbH & Co. KG

Wie die neue „SAP LeanIX AI Survey 2024“ zeigt, haben derzeit nur 14 Prozent der befragten Unternehmen einen Überblick über die Nutzung generativer KI. Sie halten umfangreiche Informationen zum Generative-KI-Einsatz zwar für äußerst relevant, haben diese aber kaum zur Verfügung.

Die Erwartungen an generative KI und deren Einsatz sind hoch, geht aus der aktuellen Studie „SAP LeanIX AI Survey 2024“ hervor. So rechnen 78 Prozent der Unternehmen mit einer Effizienzsteigerung in den Arbeitsabläufen, knapp die Hälfte glaubt auch an eine signifikante Verbesserung der Arbeitsqualität. Es ist daher wenig überraschend, dass generative KI bereits in 80 Prozent der Unternehmen von den Mitarbeitern genutzt wird – in den meisten Fällen aber noch nicht in großem Umfang. Die Zurückhaltung wird vor allem mit Datensicherheitsrisiken und mit Unklarheit über rechtliche Auswirkungen begründet. 

Dem begegnen drei Viertel der Unternehmen damit, dass sie die AI-Nutzung durch verschiedene Regelungen limitieren. Fast genau so viele (71 Prozent) geben an, ein AI-Governance-Framework implementiert zu haben oder daran zu arbeiten. Doch trotz solcher Maßnahmen räumen 85 Prozent der Firmen ein, dass sie aktuell auf die Einhaltung existierender und kommender AI-Regulierungen nicht gut oder nur teilweise vorbereitet sind. Woran liegt das?

Generative KI: Diskrepanz zwischen Relevanz und Realität

Die Studie von SAP LeanIX deckt eine mögliche Ursache auf: Obwohl mit Blick auf die nahe Zukunft 90 Prozent der Befragten eine umfassende Übersicht über generative KI und deren Nutzung im Unternehmen als wichtig erachten, verfügen derzeit nur 14 Prozent über entsprechende Informationen. Diese enorme Diskrepanz zwischen Relevanz und Realität zu beheben, kann entscheidend sein, um eine breite, aber verantwortungsvolle Einführung künstlicher Intelligenz zu beschleunigen und deren Potenzial voll auszuschöpfen. 

Die Analysten von Forrester prognostizieren, was generative KI betrifft, jährliche Wachstumsraten von 36 Prozent bis zum Jahr 2030. Und laut einer Gartner-Befragung von 2023 planen 80 Prozent der CIOs die vollständige Übernahme der Technologie innerhalb der nächsten drei Jahre. Welche Chancen, aber auch Herausforderungen sehen Unternehmen bei der Einführung der Technologie? Wie begegnen sie möglichen Schwierigkeiten? 

Diese Fragen stehen im Mittelpunkt der SAP LeanIX AI Survey 2024, für den von Dezember 2023 bis Januar 2024 online 226 IT-Experten aus dem globalen Kunden-Portfolio von SAP LeanIX befragt wurden. 71 Prozent der Befragten arbeiten in Europa, weitere 19 Prozent in US-amerikanischen Unternehmen. Sie verteilen sich gleichmäßig auf Unternehmen unterschiedlicher Größe, wobei 40 Prozent in Organisationen mit über 10.000 Mitarbeitenden beschäftigt sind. Den größten Anteil an der Stichprobe machen mit 67 Prozent Enterprise-Architekten aus.

Signifikante Steigerung der Arbeitsqualität durch generative KI

Knapp 80 Prozent der Unternehmen erwarten von künstlicher Intelligenz eine Beschleunigung von Arbeitsprozessen. Aber auch die Qualität der Arbeit wird sich durch AI verbessern: Davon zeigt sich knapp die Hälfte der Befragten überzeugt. Schon heute wird generative AI in knapp einem Drittel der befragten Unternehmen von den Mitarbeitenden intensiv genutzt – ob eingebettet in Applikationen oder mit separaten Tools. Allerdings gibt mit 48 Prozent der größte Anteil an, künstliche Intelligenz momentan noch in begrenztem Umfang einzusetzen, während 20 Prozent aktuell keine Nutzer sind. 

Welche Gründe hindern Firmen daran, die Technologie umfassend einzusetzen? Am häufigsten werden Datensicherheitsrisiken genannt (72 Prozent), gefolgt von Unklarheit über rechtliche Konsequenzen (59 Prozent). Knapp die Hälfte der Befragten sieht auch fehlendes Know-how der Mitarbeitenden im Umgang mit AI als Schwierigkeit. Ethische Bedenken oder zu hohe Kosten beschreiben hingegen nur 22 beziehungsweise 16 Prozent als Hürden.

Drei Viertel der Unternehmen, in denen AI derzeit bereits angewandt wird, begegnen solchen Bedenken offenbar durch Regelungen, die den Zugang oder die Nutzung künstlicher Intelligenz limitieren. In der Hälfte der Firmen ist der Einsatz auf AI-Modelle vorab geprüfter SaaS-Anbieter beschränkt. Ebenso viele lassen die AI-Nutzung nur für bestimmte Aufgabenbereiche zu.

Notwendigkeit eines Rahmenwerks für AI Governance

Ein AI-Governance-Framework halten fast alle für erforderlich. Bereits implementiert haben es aber nur 19 Prozent, während sich die meisten derzeit in der Entwicklungsphase befinden. Dass internationale Firmen einem solchen Framework hohe Bedeutung beimessen, liegt vor allem an den geplanten gesetzlichen Regulierungen für den verantwortungsvollen Einsatz künstlicher Intelligenz. Gartner erwartet, dass weltweit die Hälfte aller Regierungen bis zum Jahr 2026 entsprechende Vorgaben entwickeln wird. Am weitesten fortgeschritten ist die Europäische Union: Das Europäische Parlament hat im März 2024 dem EU AI Act zugestimmt, der zwei Jahre nach der offiziellen Veröffentlichung – die für diesen Sommer erwartet wird – vollständig in Kraft treten wird. Dieser verlangt von Firmen eine genaue Auskunft über das Risikoniveau ihrer Anwendungsfälle und droht bei Unterlassung mit Strafen von bis zu 7 Prozent des gesamten jährlichen Umsatzes.

Wenige fühlen auf AI-Regulierungen gut vorbereitet

Nur 15 Prozent der befragten Unternehmen geben an, gut auf die Einhaltung gesetzlicher Vorgaben zur Generative-KI-Nutzung vorbereitet zu sein, die in ihren Regionen existieren oder derzeit entstehen. Mehr als die Hälfte hält sich nur teilweise für gerüstet – und ein Drittel sieht sich derzeit nicht in der Lage, solchen Regulierungen zu entsprechen. Bemerkenswert ist, dass selbst in Firmen mit einem bereits implementierten AI-Governance-Framework weniger als 40 Prozent der Befragten ihr Unternehmen gut vorbereitet sehen. 

Dass so viel Unsicherheit in Bezug auf die Einhaltung gesetzlicher Vorgaben besteht, lässt sich zwar auch dadurch erklären, dass sich vieles noch im Entstehungsprozess befinden. Doch zumindest das Regelwerk in der Europäischen Union liegt ausgearbeitet und verabschiedet vor – und der größte Teil der Befragten ist in Unternehmen in Europa tätig. Woran hakt es also?

Generative KI: Umfassender Überblick über die Nutzung

Egal wie die gesetzlichen Bestimmungen letztlich aussehen werden, müssen Unternehmen auf jeden Fall verstehen, an welcher Stelle in der Organisation von wem in welcher Form generative KI genutzt wird. Das sehen auch die Befragten des SAP LeanIX AI Surveys 2024 so. 90 Prozent von ihnen geben mit Blick auf die nahe Zukunft an, dass ein umfassender Überblick über die Nutzung generativer AI im Unternehmen wichtig oder sehr wichtig ist. 

In mehr als einem Drittel der befragten Unternehmen gibt es momentan jedoch keine klaren Zuständigkeiten für die Nachverfolgung dieser Informationen – oder sie werden erst gar nicht erhoben. Die Diskrepanz zwischen Relevanz und Realität überrascht vor diesem Hintergrund nicht: Aktuell sind nur in 14 Prozent der befragten Firmen umfassende Nutzungsdaten zu generativer AI verfügbar.

Ohne Transparenz über AI-Nutzung keine AI Governance

Die vorliegende Studie hat gezeigt, dass drei Viertel der Unternehmen, in denen generative AI bereits genutzt wird, deren Einsatz mit verschiedenen Regeln limitieren. Fast alle sehen die Notwendigkeit für ein AI Governance Framework. Die meisten Firmen befassen sich aktuell mit der Entwicklung eines solchen Rahmenwerks oder haben dieses sogar schon implementiert. Woran es aber in 86 Prozent der Unternehmen mangelt, sind umfassende Informationen über die Nutzung künstlicher Intelligenz. Und das, obwohl fast alle Befragten sich darin einig sind, dass diese Daten dringend benötigt werden. Sie bilden die Grundlage für jedes AI Governance Framework und sind unverzichtbar, um gesetzliche Vorgaben zu erfüllen.  

 Denn wie sollen Unternehmen zum Beispiel das Risikoniveau ihrer Anwendungsfälle beschreiben, wenn sie nur teilweise oder gar keinen Überblick über diese haben? Die Erfassung solcher Informationen ist offenbar nicht immer klar geregelt. Dabei gibt es Spezialisten für die Technologie-Landschaft, die prädestiniert sind, mit Hilfe geeigneter Tools diese Daten zur AI-Nutzung bereit zu stellen: Enterprise-Architekten können zum Game Changer für ihre Unternehmen werden, indem sie zum einen eine verantwortungsvolle, rechtskonforme Nutzung künstlicher Intelligenz ermöglichen und zum anderen den Einsatz der viel versprechenden Technologie an den richtigen Stellen beschleunigen.

Enterprise Architecture Management: LeanIX integriert generative KI in EAM