KI-Strategie KI-Governance: Keiner will die Verantwortung dafür übernehmen

Anbieter zum Thema

ABBYY Europe GmbH

d.velop AG

Esker Software Entwicklungs-und Vertrieb

Yorizon GmbH & Co. KG

Eine neue Studie von Abbyy zeigt, dass die KI-Governance mit dem Innovationstempo kaum Schritt halten kann. Bei einem Teil der Unternehmen bleibt der ROI von KI hinter den Erwartungen zurück. 62 Prozent geben an, dass Anforderungen an die Data Governance die KI-Einführung verlangsamen.

Die neue Studie „Who Answers for AI: The Governance Gap“ von Abbyy zeigt: KI schafft Mehrwert. Führungskräfte sind jedoch uneins, wer letztlich für schädliche oder fehlerhafte Ergebnisse von KI-Systemen verantwortlich sein sollte. Für den Bericht befragte Opinium rund 1.200 Führungskräfte in den USA, im Vereinigten Königreich, in Frankreich, Deutschland, Australien und Singapur, davon 200 in Deutschland.

29 Prozent der Führungskräfte in Unternehmen, die KI einsetzen, findet, die Verantwortung solle zwischen dem Unternehmen und dem Anbieter aufgeteilt werden. 27 Prozent sehen die Hauptverantwortung beim Unternehmen, das die KI einsetzt. 28 Prozent halten ausschließlich den KI-Anbieter für verantwortlich. Weitere zwölf Prozent sind der Meinung, die Verantwortung liege beim Endnutzer. Vier Prozent meinen, die Aufsichtsbehörden sollten die Hauptverantwortung tragen.

Unklarheiten bei Governance spiegeln Bedenken gegenüber KI wider

29 Prozent der Führungskräfte, die KI in ihrem Unternehmen einsetzen, vertrauen vollständig darauf, dass KI-Systeme korrekte Ergebnisse liefern. Ein Viertel der Befragten ist uneingeschränkt davon überzeugt, dass KI das Zustandekommen wichtiger Entscheidungen erklären kann. Für 31 Prozent ist der Schutz vertraulicher Informationen vollständig gewährleistet. 28 Prozent sind sich sicher, dass KI-Systeme keine unvertretbaren Risiken verursachen.

Darüber hinaus geben 55 Prozent der Führungskräfte an, dass ihr Unternehmen KI schneller einführt, als es sie wirksam steuern kann. Dies verstärkt die Sorge, dass die KI-Governance mit dem Innovationstempo kaum Schritt hält. Diese Bedenken wirken sich spürbar auf die Geschwindigkeit der KI-Einführung aus. 29 Prozent berichten, dass ethische Bedenken im Unternehmen die Umsetzung von KI-Initiativen erheblich verzögern. Dies verdeutlicht, wie schwierig es für Unternehmen ist, Innovation und verantwortungsvolle Einführung miteinander zu vereinbaren.

Skalierung des KI-Einsatzes erfordert Data Governance

Data Governance umfasst Kontrollmechanismen, die korrekte, sichere und regelkonforme Daten gewährleisten. Sie stellt ein wesentliches Hindernis für die Skalierung des KI-Einsatzes dar. 62 Prozent der Führungskräfte in Unternehmen, die KI einsetzen, geben an, dass Anforderungen an die Data Governance die Einführung von KI verlangsamen.

Diese Verzögerung könnte sich negativ auf den ROI auswirken. Etwa die Hälfte (52 Prozent) der Führungskräfte in Unternehmen mit KI-Governance berichtet, dass ihre KI-Initiativen die erwarteten Ziele übertroffen haben. 15 Prozent geben an, dass die Leistung der KI hinter den Erwartungen zurückbleibt. Damit stellt sich die Frage, ob Unternehmen geeignete Strukturen schaffen, um das volle Potenzial von KI auszuschöpfen.

KI-Governance: Herausforderungen für den ROI von KI

Bedenken hinsichtlich der Datenqualität bilden das größte Hindernis für einen höheren ROI bei KI-Anwendungen. Fast ein Viertel (24 Prozent) der Führungskräfte nennt sie als größte Herausforderung. Dahinter folgen der Fachkräftemangel (16 Prozent) sowie Anforderungen an Governance und Aufsicht (12 Prozent).

Ein Teil der Herausforderung könnte auf einem fehlenden gemeinsamen Verständnis innerhalb der Unternehmen beruhen. Bei Mitarbeitern auf unteren Hierarchieebenen ist das Wissen über die Verantwortlichkeiten deutlich geringer. Nach Angaben der Befragten wissen 87 Prozent der Mitarbeiter auf der obersten Führungsebene, wer für Entwicklung, Implementierung und Steuerung von KI verantwortlich ist. Beim mittleren Management sind es 89 Prozent, bei Mitarbeitern auf unteren Hierarchieebenen 69 Prozent.

Roman Kilun, Chief Compliance Officer bei Abbyy, kommentiert: „Unternehmen setzen zunehmend auf KI. Unsere Studie zeigt jedoch, dass viele noch immer mit zentralen Fragen zu Verantwortung, Governance und ROI ringen. Die Unternehmensführung muss die Richtlinien für verantwortungsvolle KI im gesamten Unternehmen besser vermitteln. Für den Einsatz von KI müssen Unternehmen außerdem wissen, woher Daten stammen und ob sie vertrauenswürdig sind. Sie müssen auch klären, wie die Daten verwendet werden dürfen und wo sie gespeichert und verarbeitet werden. Mit der wachsenden Bedeutung der Datensouveränität werden maschinenlesbare Kontrollmechanismen erforderlich. Sie müssen Daten über deren gesamten Lebenszyklus steuern und eine durchgängige Compliance gewährleisten.“

KI-Governance erweist sich als wichtiger Faktor für den Erfolg

Die Ergebnisse deuten darauf hin, dass eine wirksame KI-Governance Unternehmen dabei unterstützt, mit KI einen höheren Mehrwert zu erzielen. Von den Befragten aus Unternehmen mit einem entsprechenden Rahmenwerk geben 77 Prozent an, dass ihre KI-Initiativen dadurch erfolgreicher geworden sind. Nach Ansicht von 73 Prozent der Führungskräfte in Unternehmen, die KI nutzen, bringt der jeweilige Governance-Ansatz Risikominderung und eine schnelle Bereitstellung von KI in Einklang.

Die Mehrheit der Führungskräfte (82 Prozent), deren Unternehmen bereits KI einsetzen, gibt an, dass ein formelles Rahmenwerk für KI-Governance besteht. Der Reifegrad der Governance unterscheidet sich jedoch. Nur die Hälfte (50 Prozent) verfügt über ein Verfahren zur Meldung von KI-Vorfällen. 52 Prozent haben einen Reaktionsplan für solche Vorfälle, 45 Prozent einen Abschaltmechanismus für KI-Systeme (Kill-Switch) und 38 Prozent Funktionen zur Rücksetzung (Rollback). Lediglich drei Prozent geben an, dass ihr Unternehmen über keine Funktionen zum Management von KI-Vorfällen verfügt.

Zudem planen Unternehmen ohne formelle KI-Governance, entsprechende Strukturen zu schaffen. 13 Prozent der Führungskräfte in Unternehmen, die KI nutzen, geben an, dass derzeit keine formelle KI-Governance besteht. Ihr Unternehmen will jedoch innerhalb der kommenden zwölf Monate ein entsprechendes Rahmenwerk entwickeln.

Generative KI

GenAI: Risiken nehmen zu durch Schatten-KI und BYOS

Menschliche Aufsicht ist für die Governance wichtig

Unternehmen mit einem Rahmenwerk für KI-Governance erkennen bereits praktische Vorteile. Jeweils etwa die Hälfte gibt an, dass Governance die Entwicklung von KI-Systemen (48 Prozent) und die Skalierung von KI-Initiativen über die Pilotphase hinaus (49 Prozent) erleichtert. 50 Prozent zufolge fördert sie die Akzeptanz von KI-Systemen unter den Mitarbeitern.

Die menschliche Aufsicht bleibt wichtig. 59 Prozent der deutschen Führungskräfte sagen, dass Menschen alle wichtigen KI-Entscheidungen prüfen, bevor daraus Maßnahmen folgen. In Australien steigt dieser Anteil auf 61 Prozent, in Singapur sinkt er auf 49 Prozent. Dies zeigt anhaltende Unterschiede bei der menschlichen Einbindung in KI-gestützte Entscheidungsprozesse. Roman Kilun beton „Die Unternehmen, mit denen wir zusammenarbeiten, gehen von Pilotprojekten und Proofs of Concept zur praktischen Umsetzung über. Klare Rahmenwerke und ein gemeinsames Verständnis der Verantwortlichkeiten sind entscheidend, um Vertrauen in KI aufzubauen. Bei Abbyy legen wir unseren eigenen Governance-Ansatz transparent dar und unterstützen unsere Kunden auf diesem Weg.“

Unternehmen investieren weiterhin verstärkt in KI. In allen untersuchten Märkten außer Singapur und Frankreich sind die Ausgaben gestiegen. Deutsche Unternehmen investierten in den vergangenen zwölf Monaten durchschnittlich rund 1.053.000 Euro in KI-Tools. 96 Prozent der Befragten erwarten, dass ihr Unternehmen die Investitionen in den kommenden zwölf Monaten erhöht. Der erwartete Anstieg beträgt durchschnittlich 19,6 Prozent und signalisiert anhaltendes Vertrauen in das Potenzial von KI zur Transformation von Unternehmen.

Zur Methodik der Studie: Für den Bericht „Who Answers for AI: The Governance Gap" von Abbyy befragte Opinium 1.200 Führungskräfte aus Unternehmen mit mindestens 100 Mitarbeitern in den USA, im Vereinigten Königreich, in Frankreich, Deutschland, Australien und Singapur. Die deutsche Auswertung umfasst 200 Befragte.

.