Sichere KI-Nutzung KI-Agenten: Wer zieht die Notbremse bei einem Sicherheitsvorfall?

Anbieter zum Thema

ServiceNow

CADFEM Germany GmbH

Esker Software Entwicklungs-und Vertrieb

Yorizon GmbH & Co. KG

Eine neue Studie von ServiceNow zeigt: 92 Prozent der Unternehmen in Deutschland waren 2025 von einem Sicherheitsvorfall im Zusammenhang mit KI-Agenten betroffen. Weltweit verfügen lediglich 13 Prozent der Unternehmen über eine belastbare Sicherheitsarchitektur.

ServiceNow warnt auf Grundlage der neuen Studie „Deployed but ungoverned: The State of agentic security“ vor wachsenden Sicherheitsrisiken durch unkontrollierte KI-Agenten in Unternehmen. Hintergrund ist der zunehmende Einsatz von agentischer KI über die Pilotphase hinaus in geschäfts- und gesellschaftskritischen Systemen – von Krankenhäusern und Flughäfen über Produktionsanlagen bis hin zu Finanzinstituten. In diesen Bereichen können bereits einzelne unkontrollierte Aktionen schwerwiegende gesellschaftliche Folgen haben. 92 Prozent der Unternehmen in Deutschland waren im vergangenen Jahr bereits von einem Sicherheitsvorfall im Zusammenhang mit agentischer KI betroffen. Nur 28 Prozent dieser Unternehmen konnten den Vorfall innerhalb von 24 Stunden eindämmen.

„Die Sicherheitsvorfälle im Zusammenhang mit agentischer KI, die in diesem Jahr für Schlagzeilen gesorgt haben, zeigen, welche Folgen der Einsatz von KI ohne angemessene Kontrollmechanismen haben kann“, erklärt Ben de Bont, CISO bei ServiceNow. „Unternehmen sollten sich nicht zwischen einer schnellen Einführung von KI und einem wirksamen Risikomanagement entscheiden müssen. Wer hier erfolgreich sein will, muss Governance von Anfang an fest in die Einführung von KI-Agenten integrieren. Nur so lassen sich die Vorteile von KI nutzen, ohne Transparenz und Kontrolle einzubüßen.“

Unternehmen sollten sich nicht zwischen einer schnellen Einführung von KI und einem wirksamen Risikomanagement entscheiden müssen.

Ben de Bont, ServiceNow

KI-Agenten: Wo es an Kontrolle fehlt

Laut der Studie von ServiceNow schätzen viele Security-Verantwortliche die Sicherheitsvorkehrungen ihrer Unternehmen für agentische KI als ausgereift ein. Eine Bewertung anhand von fünf zentralen Kriterien zeigt jedoch ein anderes Bild: Weltweit verfügen lediglich 13 Prozent der Unternehmen über ein belastbares Sicherheitskonzept. Untersucht wurden dabei die Angriffsfläche, die Verantwortlichkeiten, die Integration von Sicherheit in die Entwicklung (Security by Design), die Transparenz sowie die Vorbereitung auf Sicherheitsaudits.

Die Absicherung agentischer KI erfolgt derzeit überwiegend über bestehende Sicherheits- und Governance-Strukturen, die ursprünglich für klassische IT-Systeme und menschlich gesteuerte Prozesse entwickelt wurden. In Deutschland verfügen 46 Prozent der Unternehmen über Governance-Rahmenwerke, die wesentliche Aspekte des Einsatzes von KI-Agenten abdecken. 42 Prozent der IT-Sicherheitsteams berücksichtigen Sicherheitsanforderungen bereits bei der Konzeption und Entwicklung agentischer KI. In der Mehrheit der Unternehmen werden Zugriffsberechtigungen und Sicherheitsmechanismen erst nachträglich und häufig nur im Einzelfall implementiert. Statt Risiken von Beginn an systematisch zu begrenzen, reagieren Unternehmen erst, wenn Handlungsbedarf entsteht.

KI-Agenten: Mit steigender Anzahl steigen die Risiken

• 54 Prozent der Unternehmen in Deutschland setzen inzwischen zwischen 100 und 999 KI-Agenten ein, weitere 29 Prozent nutzen bereits mehr als 1.000.
• 59 Prozent der IT-Sicherheitsteams in Deutschland verfügen über ein vollständiges und aktuelles Verzeichnis aller produktiv eingesetzten KI-Agenten sowie über Prozesse zur systematischen Erfassung von Veränderungen.
• 20 Prozent der IT-Sicherheitsteams haben agentische KI im produktiven Einsatz entdeckt, die zuvor weder registriert noch bekannt waren. Solche unentdeckten Systeme können zu sogenannter Schatten-KI werden, deren Existenz häufig erst auffällt, nachdem sie bereits längere Zeit unbemerkt im Einsatz waren.

KI-Agenten agieren schneller als Sicherheitsteams reagieren können

• 78 Prozent der Unternehmen in Deutschland geben an, über eine vollständige und aktuelle Übersicht der Zugriffsberechtigungen sämtlicher KI-Agenten zu verfügen.
• Nur 24 Prozent der Unternehmen können mehr als 90 Prozent ihrer KI-Agenten in Echtzeit überwachen. Selbst wenn Unternehmen Sicherheitsprobleme erkennen, können sie häufig nicht schnell genug eingreifen.
• 64 Prozent der IT-Sicherheitsteams sind nicht in der Lage, bei auffälligem Verhalten eines KI-Agenten automatisch Gegenmaßnahmen einzuleiten. Stattdessen ist weiterhin ein manueller Eingriff erforderlich, bevor entsprechende Maßnahmen greifen.

Sicherheitslücken schließen und Kontrolle zurückgewinnen

Mit dem Angebot „Autonomous Security“ unterstützt ServiceNow Unternehmen dabei, von reaktiven und fragmentierten Sicherheitsansätzen zu einer präventiven, autonom gesteuerten IT-Sicherheit überzugehen, die Risiken schneller begegnen kann, als sie durch KI entstehen. Grundlage dafür ist der Shift-Zero-Ansatz, mit dem ServiceNow Unternehmen dabei unterstützt, ihre Sicherheitsrisiken kontinuierlich auf ein Minimum zu reduzieren.

Gleichzeitig sollen Unternehmen jederzeit nachvollziehbar belegen können, welche Aktionen ihre Systeme ausführen, warum sie diese ausführen und wer oder was dafür verantwortlich ist, ohne die Geschwindigkeit des KI-Einsatzes einzuschränken. Dazu gehören klare Regeln und Sicherheitsmechanismen für den kontrollierten Einsatz agentischer KI, einschließlich eines Kill Switch zur sofortigen Deaktivierung von KI-Agenten sowie des AI Passport zur Steuerung und Überprüfung ihrer Berechtigungen.

Nadir Izrael, GVP, Cybersecurity and Risk bei ServiceNow, kommentiert: „Innovation und Sicherheit müssen Hand in Hand gehen und dürfen nicht nacheinander betrachtet werden. Genau dafür wurden Autonomous Security und Shift Zero entwickelt: Governance wird bereits bei der Entwicklung oder Einführung eines KI-Agenten integriert, statt Sicherheitsmechanismen erst nachträglich zu ergänzen. Wenn Sicherheitsmaßnahmen mit der Geschwindigkeit von KI Schritt halten, werden sie vom vermeintlichen Hindernis zur Voraussetzung für eine sichere Skalierung.“

Innovation und Sicherheit in Unternehmen müssen Hand in Hand gehen und dürfen nicht nacheinander betrachtet werden.

Nadir Izrael, ServiceNow

Zur Methodik der Studie: Der Bericht „Deployed but ungoverned: The State of agentic security“ von ServiceNow wurde in Zusammenarbeit mit Phronesis Partners erstellt. Dafür wurden mehr als 3.700 Führungskräfte mit Entscheidungsverantwortung in den Bereichen IT-Sicherheit und Technologie auf der Ebene Vice President oder höher in 20 Ländern befragt. Die Befragten stammen aus mittelständischen und großen Unternehmen, von denen 97 Prozent einen Jahresumsatz von mindestens 250 Millionen US-Dollar erzielen.

KI-Strategie

KI im Mittelstand: Integration und Governance bremsen die Ausweitung