Anbieter zum Thema

Gartner Inc

d.velop AG

Esker Software Entwicklungs-und Vertrieb

Yorizon GmbH & Co. KG

Nutzen, Risiken und Sicherheit von KI in Einklang bringen

Auf dem Gartner IT Symposium/Xpo 2026 in Barcelona ging es auch um die Frage, warum das Risiko durch KI-Einsatz schneller wächst, als ihr Nutzen. Nach Ansicht der Analysten hängen Nutzen und Risiken zusammen. CIOs und IT-Verantwortliche müssten beides gegeneinander abwägen, um dauerhaft erfolgreich zu sein. 

Daryl Plummer, Distinguished VP Analyst, Gartner Fellow und Chief of Research, erklärt: „Menschen arbeiten heute stärker mit KI als je zuvor, und 58 Prozent der Führungskräfte sehen bereits einen gewissen Nutzen aus ihren KI-Initiativen. Das zeigt eine Gartner-Umfrage aus dem zweiten Quartal 2026 unter mehr als 1.000 Führungskräften aus verschiedenen Fachbereichen. Viele Unternehmen erzielen zwar punktuelle Erfolge mit KI, haben aber Schwierigkeiten, diesen Nutzen im gesamten Unternehmen zuverlässig zu wiederholen und auszubauen.“

Erfolgreich wird KI eingesetzt, wenn Unternehmen die richtige Dynamik schaffen, um den Nutzen zu steigern, und zugleich verhindern, dass die Risiken außer Kontrolle geraten. „CIOs sollten Nutzen und Risiken sowie Sicherheit und Governance aufeinander abstimmen. Entscheidend ist, dass alles zusammenpasst“, sagt Plummer. Kristin Moyer, Distinguished VP Analyst und Gartner Fellow, ergänzt: „Anpassung bedeutet nicht, dass alle denselben Nutzen erzielen oder denselben Risiken ausgesetzt sind. Es bietet eine einheitliche Möglichkeit, Nutzen-Risiko-Beziehungen zu gestalten.“

„Eine Gartner-Umfrage aus dem zweiten Quartal 2026 unter mehr als 2.000 CIOs und Technologieverantwortlichen ergab beispielsweise, dass 71 Prozent der Organisationen erwarten, innerhalb der nächsten zwölf Monate agentische KI einzusetzen. Doch nur 21 Prozent verfügen derzeit über Governance-Fähigkeiten für agentische KI. „Dieses Ungleichgewicht erschwert es, schneller Nutzen zu schaffen, als KI Risiken erzeugt. Beim Umgang mit Nutzen und Risiken geht es darum, die richtigen Arten von Dynamik aufzubauen und zugleich die falschen Bremswirkungen zu vermeiden“, so Kristin Moyer.

Richtige Steuerung von Nutzen und Risiken der KI

Gartner empfiehlt CIOs zwei Maßnahmen, um den Nutzen von KI zu steigern und Risiken zu steuern:

Das „Gartner Value-Risk Flywheel“ unterstützt dabei, Nutzen und Risiken von KI aufeinander abzustimmen. Es hilft Organisationen zu analysieren, welche Entwicklungen sich verstärken und warum.  „Zwei Kräfte prägen das Gartner Value-Risk Flywheel: Dynamik und Bremswirkung. Dynamik beschleunigt Ergebnisse, während Bremswirkung sie verlangsamt. Doch Dynamik ist nicht immer gut, und die richtige Art von Bremswirkung kann nützlich sein. CIOs, die bessere Ergebnisse erzielen, wissen, wie sie positive Dynamik erzeugen und gezielt förderliche Bremswirkungen einführen. Gleichzeitig reduzieren sie negative Dynamik und schädliche Bremswirkungen“, so Plummer.

In der Softwareentwicklung kann sich der Nutzen beispielsweise schneller verstärken als die Risiken. KI erzeugt inzwischen einen erheblichen Anteil des Codes, der in produktiven Softwareanwendungen eingesetzt wird. Dadurch nimmt KI Softwareentwicklern die Bremswirkung manueller Programmierung ab. So können sie durch schnelles Prototyping, anforderungsorientierte Entwicklung, architektonisches Denken und Produktentwicklung eine positive Dynamik erzeugen.

Die Steuerungsinstanz für das Flywheel hilft dabei, Sicherheit und Governance aufeinander abstimmen. Plummer erklärt die Funktionsweise: „Jeder nimmt Nutzen und Risiken etwas anders wahr. Deshalb braucht es etwas, das das gesamte System koordiniert. Ein Flywheel braucht eine Steuerungsinstanz im Zentrum. Sie entscheidet, wann der Nutzen das Risiko rechtfertigt, welche Sichtweise auf den Nutzen maßgeblich sein sollte und wie die Sicherheit einer Organisation gewährleistet wird. Diese Rolle übernimmt die Steuerungsinstanz des Flywheels.“