KI-Agenten Agentic AI: Die dunkle Seite der Autonomie

Anbieter zum Thema

Dell GmbH - Technologies

d.velop AG

Esker Software Entwicklungs-und Vertrieb

Yorizon GmbH & Co. KG

Agentic AI verändert die Spielregeln der Cybersicherheit nicht, weil plötzlich völlig neue Schwachstellen entstehen. Das Problem ist, dass bekannte Angriffsmethoden eine neue Qualität erreichen. Gelingt es den Kriminellen, die IT-Infrastruktur zu kompromittieren, erlangen sie auch die Kontrolle über die KI-Agenten.

Ein Unternehmen investiert große Summen in Agentic AI. Sicherheitsrichtlinien sind definiert, Identitäten sauber verwaltet und Prompt-Injection-Filter aktiviert. Trotzdem gelingt es einem Angreifer, die Umgebung zu übernehmen – nicht über das Sprachmodell, sondern über eine kompromittierte Firmware tief unterhalb des Betriebssystems. Von dort aus bewegt sich der Angreifer nahezu unbemerkt durch die Infrastruktur, kapert Zugriffsrechte und nutzt schließlich die vorhandenen KI-Agenten, um Angriffe zu automatisieren, Daten zu exfiltrieren oder ganze Prozesse lahmzulegen.

Das Beispiel zeigt das zentrale Problem: Agentic AI ist nur so vertrauenswürdig wie die Infrastruktur dahinter. Die entscheidende Sicherheitsfrage lautet deshalb nicht nur, wie ein KI-Agent selbst geschützt wird. Sie lautet auch, ob die technische Umgebung, in der dieser Agent arbeitet, tatsächlich vertrauenswürdig ist.

KI kann Cyberangriffe beschleunigen

Noch vor wenigen Jahren benötigte eine professionelle Hackergruppe Wochen oder sogar Monate, um eine Unternehmensumgebung auszukundschaften. Systeme mussten identifiziert, Schwachstellen recherchiert, Berechtigungen analysiert und Angriffspfade manuell aufgebaut werden. Heute erledigen KI-gestützte Werkzeuge große Teile dieser Arbeit innerhalb weniger Minuten. Sie durchsuchen Netzwerke nach verwundbaren Systemen, gleichen Konfigurationen automatisiert mit bekannten CVEs ab, generieren passende Exploits und schlagen den nächsten Angriffsschritt vor. Mit Agentic AI entwickelt sich dieser Prozess zur nahezu autonomen Angriffskette: Mehrere spezialisierte Agenten können parallel Informationen sammeln, Entscheidungen treffen und Aktionen koordinieren.

Genau darin liegt die eigentliche Herausforderung in puncto Sicherheit. Agentic AI erzeugt keine grundlegend neuen Schwachstellen. Im Gegenteil: Eine ungepatchte Firmware stellt nach wie vor die gleiche Schwachstelle dar wie vor fünf Jahren. Ein fehlerhaft konfigurierter Management-Controller oder ein kompromittiertes UEFI waren schon immer attraktive Angriffsziele. Neu ist jedoch die Geschwindigkeit, mit der solche Schwachstellen gefunden, ausgenutzt und für komplexe Angriffe kombiniert werden können.

Agentic AI: Wer einmal drin ist, hat Zugriff auf alles

KI macht Cyberkriminalität skalierbar, wodurch sich zwangsläufig der Blick auf die Verteidigung verändern muss. Unternehmen diskutieren derzeit vor allem über Prompt Injection, Guardrails oder die sichere Entwicklung von KI-Agenten. Diese Themen sind zweifellos wichtig. Häufig wird Agent-Hijacking jedoch „nur“ als Angriff auf das Sprachmodell verstanden. Tatsächlich beginnt eine erfolgreiche Kompromittierung oft deutlich früher. Werden Schwachstellen in der Hardware ausgenutzt, arbeitet der Schadcode unterhalb des Betriebssystems und bleibt für klassische Sicherheitstools in der Regel unsichtbar. Die Folgen reichen dabei weit über den Zugriff auf einen einzelnen Server hinaus.

Von einer kompromittierten Infrastruktur aus lassen sich Identitäten übernehmen, privilegierte Berechtigungen ausweiten und weitere Systeme infiltrieren. Genau an diesem Punkt entsteht die Verbindung zu Agentic AI. KI-Agenten besitzen nämlich häufig weitreichende Zugriffe auf Unternehmensdaten, APIs, Automatisierungsplattformen oder Geschäftsanwendungen. Wer diese Infrastruktur kontrolliert, kann nicht nur Daten stehlen oder Systeme verschlüsseln. Er kann die Agenten auch für eigene Zwecke instrumentalisieren und ihre Fähigkeit zur Automatisierung missbrauchen.

Damit entsteht gewissermaßen ein Botnetz der nächsten Generation. Während klassische Botnetze kompromittierte Rechner für DDoS-Angriffe oder Spam-Kampagnen nutzen, können autonome Agenten künftig komplexere Aufgaben übernehmen: 

• Informationen sammeln
• Geschäftsprozesse manipulieren
• Finanztransaktionen vorbereiten
• koordinierte Angriffe auf weitere Systeme durchführen

Der entscheidende Unterschied liegt dabei in der Fähigkeit zur eigenständigen Koordination. Mehrere spezialisierte Agenten können Informationen sammeln, Entscheidungen treffen und Aktionen koordinieren. Damit wird aus der Kompromittierung einzelner Systeme potenziell eine automatisierbare Angriffskette.

KI-Strategie

KI-Agenten: Ein ehrlicher und unbequemer Blick auf deren Leistung