Sicherheitsrisiken durch KI KI-Assistenten: 55 Prozent der Unternehmen haben Sicherheitsvorfälle erlebt

Anbieter zum Thema

Proofpoint GmbH

xSuite Group GmbH

Esker Software Entwicklungs-und Vertrieb

Die Kluft zwischen dem wachsenden Einsatz von KI und der Kontrolle der daraus entstehenden Risiken nimmt rasant zu. Wie ein neuer Report von Proofpoint zeigt, investieren deutsche Unternehmen zwar in KI-Assistenten und deren Kontrolle, können aber ihre Wirksamkeit nicht überprüfen.

KI ist inzwischen in den meisten Geschäftsbereichen im Einsatz – von der Kundenbetreuung über die interne Kommunikation und E-Mail-Workflows bis hin zur Zusammenarbeit mit Drittanbietern. Laut dem neuen Report „AI and Human Risk Landscape 2026“ von Proofpoint setzen bereits 82 Prozent der deutschen Unternehmen KI-Assistenten ein und 77 Prozent testen oder implementieren autonome Agenten.

Obwohl deutsche Unternehmen in KI-Tools und deren Kontrolle investieren, können viele deren Wirksamkeit nicht bestätigen: 63 Prozent der Befragten in Deutschland sind nicht vollständig überzeugt, dass ihre KI-Sicherheitskontrollen eine kompromittierte KI erkennen können. Trotz vorhandener Kontrollen meldeten 55 Prozent der deutschen Unternehmen bereits einen bestätigten oder vermuteten KI-bezogenen Sicherheitsvorfall.

Fatalerweise sehen sich die meisten deutschen Unternehmen nicht ausreichend gerüstet, um KI-bezogene Vorfälle zu untersuchen, die sich über mehrere Systeme oder Kanäle erstrecken – nur 32 Prozent der Befragten in Deutschland fühlen sich darauf vollständig vorbereitet. Für den „AI and Human Risk Landscape Report“ wurden mehr als 1.400 Sicherheitsexperten aus zwölf Ländern befragt.

Schutz der Interaktionen mit KI-Assistenten

Ryan Kalember, Chief Strategy Officer bei Proofpoint, kommentiert: „Die diesjährigen Ergebnisse verdeutlichen eine wachsende Kluft zwischen KI-Einführung und Sicherheitsniveau. Unternehmen setzen KI-Assistenten und autonome Agenten für Arbeitsabläufe ein, doch viele können weder die Wirksamkeit ihrer Kontrollen bestätigen noch Vorfälle vollständig untersuchen, die sich über Collaboration-Kanäle erstrecken. Weil KI zunehmend in die täglichen Arbeitsabläufe eingebettet wird, müssen Sicherheitsverantwortliche überdenken, wie sie vertrauenswürdige Interaktionen zwischen Menschen, Daten und KI-Systemen schützen.“

Überblick über wichtige Erkenntnisse der Studie

KI-Einführung eilt der Sicherheit weit voraus: Deutsche Unternehmen haben KI schneller in den Produktivbetrieb überführt, als Governance-Frameworks mitwachsen konnten. 82 Prozent der Unternehmen in Deutschland setzen KI-Assistenten bereits ein und 77 Prozent testen oder implementieren autonome Agenten. Allerdings sehen 56 Prozent der deutschen Unternehmen ihre Sicherheitsmaßnahmen in einem Aufholwettlauf begriffen oder betrachten sie als inkonsistent oder rein reaktiv. 50 Prozent der Befragten in Deutschland berichten davon, bereits einen vermuteten oder bestätigten KI-bezogenen Vorfall verzeichnet zu haben – ein deutliches Zeichen dafür, dass das Risiko in produktiven Umgebungen längst real ist.

Collaboration-Kanäle sind die zentrale KI-Angriffsfläche: KI vergrößert die Angriffsfläche und ermöglicht es Bedrohungen, sich mit Maschinengeschwindigkeit auszubreiten und vernetzte Arbeitsabläufe zu beeinträchtigen. In Deutschland bleibt E-Mail mit 64 Prozent der häufigste Bedrohungsvektor. Zudem fungieren SaaS- und Cloud-Anwendungen von Drittanbietern (50 Prozent), Collaboration-Tools wie Teams oder Slack (50 Prozent) sowie KI-Assistenten oder -Agenten (45 Prozent) als Einfallstore für Cyberangriffe. Unter den deutschen Unternehmen, die einen KI-bezogenen Vorfall erlebt haben, lagen die Prozentzahlen je Kanal noch höher. So kamen KI-Systeme auf 70 Prozent und SaaS- und Cloud-Anwendungen Dritter auf 68 Prozent.

Vertrauen übersteigt die tatsächliche Wirksamkeit der Kontrollen:  Viele deutsche Unternehmen haben zwar Sicherheitskontrollen implementiert, doch fehlt ihnen die Gewissheit über deren Effektivität. 75 Prozent der Unternehmen in Deutschland verfügen über KI-Sicherheitsmaßnahmen, aber 63 Prozent sind nicht vollständig überzeugt, dass diese Kontrollen eine kompromittierte KI erkennen können. Trotz bestehender Schutzmaßnahmen meldeten 55 Prozent der deutschen Unternehmen einen KI-bezogenen Vorfall. Lücken bestehen insbesondere bei Schulungen (45 Prozent), der teamübergreifenden Abstimmung von Governance-Prozessen (42 Prozent) und der Sichtbarkeit von KI- oder Agenten-Aktivitäten (36 Prozent).