Kontrolle von Agentic AI KI-Agenten: BeyondTrust bringt neue Lösung zu deren Kontrolle

Anbieter zum Thema

BeyondTrust

d.velop AG

Esker Software Entwicklungs-und Vertrieb

Yorizon GmbH & Co. KG

Eine neue Analyse von Phantom Labs zeigt, dass KI-Agenten häufig über ihren Auftrag hinaus handeln. Mit der neuen Lösung „AI Agent Security“ von BeyondTrust lassen sich unerwünschte Aktivitäten von Agentic AI kontrollieren, ohne diese Aktionen für menschliche Nutzer einzuschränken.

BeyondTrust, Identity-Security-Anbieter beim Schutz privilegierter Zugriffs- und Berechtigungspfade, hat jetzt die Verfügbarkeit der Sicherheitslösung „AI Agent Security“ auf der Plattform Pathfinder bekanntgegeben. Neue Forschungen des Forschungslabors Phantom Labs von BeyondTrust zeigen das große Ausmaß ungesteuerter Aktivitäten von Agentic AI und die wachsende Vernetzung von KI-Agenten über Endpunkte hinweg.

Observability und Richtlinien verhindern Sicherheitsvorfälle

Auf der Basis von Endpunkt-Telemetriedaten des True Privilege Graph ermittelte Phantom Labs folgende Erkenntnisse:

Fast zehn Shell-Befehle pro Prompt: Untersuchungen von Phantom Labs zum Verhalten von KI-Coding-Agenten zeigen, dass sie 1,28 Millionen Shell-Befehle aus etwa 132.000 Prompts innerhalb von vier Wochen anforderten. Die Zahlen belegen, dass ein einzelner Prompt zu mehreren nachgelagerten Befehlsanfragen führen kann. Dabei mangelt es an der durchgehenden Verantwortlichkeit zwischen ursprünglichem Prompt und anschließender Befehlsausführung. Sollte ein Agent versuchen, über den vorgesehenen Rahmen eines Prompts hinauszugehen, sind Beobachtbarkeit (Observability) und Richtliniendurchsetzung entscheidend, um potenzielle Sicherheitsvorfälle zu verhindern oder abzumildern.

85 Prozent derCoding-Agent-Nutzer konfigurierten mindestens einen MCP-Server — im Durchschnitt 4,35 Server pro verbundenem Nutzer, und in einem Fall sogar 36 Server. Diese Verbindungen erweitern die Reichweite eines Agenten und können es ihm ermöglichen, auf mehreren Plattformen mit delegierten Nutzerrechten aktiv zu werden. Dadurch erweitert sich die Angriffsfläche: Angreifer, die Zugriff auf das KI-Konto eines Nutzers erlangen, könnten über die verbundenen Plattformen hinweg als dieser Nutzer handeln, ohne separate Zugangsdaten zu benötigen. Beim Aufruf können MCP-Server Nutzer-Prompts empfangen und über ihre Antworten das Verhalten des Agenten beeinflussen. Ohne Transparenz der MCP-Aktivitäten bergen diese Verbindungen Datenschutz- und Compliance-Risiken und bieten bösartigen Servern die Möglichkeit, sensible Daten abzuziehen oder Agentenaktionen zu manipulieren.

Rund die Hälfte der Agent-Skills wird gebündelt in Code-Repositories installiert: Innerhalb einer mittelgroßen Unternehmensumgebung, in der 60 Prozent der KI-aktiven Geräte einen Coding-Agenten ausführen, hat ein typischer Nutzer mit Agent-Skills etwa zwei Dutzend KI-Skills installiert. Mindestens jeder siebte installierte KI-Skill kam dabei innerhalb von vier Wochen zum Einsatz. KI-Agenten-Skills beeinflussen nicht nur Prompt-Input und -Output, sondern beinhalten oft auch eingebetteten Code. Angreifer verteilen legitime Skills aktiv und manipulieren sie gezielt („Poisoning“). Können Organisationen ihre Skill-Richtlinien nicht prüfen und durchsetzen, geben sie womöglich unbemerkt Kontrolle an nicht genehmigte oder kompromittierte Skills ab.

Abgrenzung der Aktivitäten von KI-Agenten und Menschen

AI Agent Security von BeyondTrust adressiert diese Herausforderungen, indem die Lösung die Aktivitäten von KI-Agenten von menschlichen Aktivitäten abgrenzt und zur Laufzeit durchsetzt, was Agenten tun dürfen. Die eingesetzten KI-Agenten können nur autorisierte Aktionen ausführen, ohne dass für Mitarbeiteraufgaben benötigte Berechtigungen eingeschränkt werden.

Marc Maiffret, CTO bei BeyondTrust, kommentiert: „Immer häufiger handeln KI-Agenten im Auftrag von Mitarbeitern und verwenden dabei oft denselben Zugang wie die betreffenden Personen. Das erweitert erheblich, wer und was Privilegien ausüben kann. Handeln diese Agenten autonom und mit Maschinengeschwindigkeit, müssen Organisationen die betreffenden Nutzerprivilegien kontrollieren können, bevor unerwünschte Handlungen durchgeführt werden. AI Agent Security zieht eine Trennlinie zwischen dem, was Menschen durchführen dürfen, und dem, was KI-Agenten ausführen dürfen. So können Organisationen die Leistungsfähigkeit von KI nutzen, ohne davon auszugehen, dass alles, was ein Mensch darf, auch seinem KI-Agenten erlaubt sein sollte.“

 AI Agent Security zieht eine Trennlinie zwischen dem, was Menschen durchführen dürfen, und dem, was KI-Agenten ausführen dürfen. So können Organisationen die Leistungsfähigkeit von KI nutzen.

Marc Maiffret, BeyondTrust

KI-Agenten kontrollieren, bevor sie handeln

AI Agent Security wendet das BeyondTrust-Framework aus Visibility, Intelligence und Protection auf agentische KI am Endpunkt an und stattet Sicherheitsteams mit den erforderlichen Kontextinformationen und Kontrollfunktionen zur Steuerung von KI-Agenten aus. Zugriffsrechte der Mitarbeiter, die sie zur Erledigung ihrer Aufgaben benötigen, werden dabei nicht eingeschränkt. Statt sich allein auf das Blockieren bekannter Befehle zu verlassen oder riskantes Verhalten erst im Nachhinein zu erkennen, bewertet BeyondTrust einzelne Aktionen eines KI-Agenten zur Laufzeit anhand von Richtlinien und entscheidet so, was ein KI-Agent tun darf, bevor eine Aktion erfolgt. Das Framework besteht aus folgenden Komponenten:

Visibility: Erfassung von KI-Agenten, die über Endpunkte hinweg im Einsatz sind, einschließlich führender Frontier-KI-Tools, intern gehosteter Modelle, Schatten-KI und kurzlebiger Hilfsagenten (Ephemeral Sub-Agents), um eine umfassende Inventarisierung agentischer KI-Aktivitäten zu erreichen.
Intelligence: Abgrenzung menschlicher Aktionen von Agentic-AI-Aktivitäten und kontextbezogene Erfassung der Handlungen von KI-Agenten, darunter menschlicher Eigentümer, Gerät, Agentensitzung, Skills und MCP-Aktivität.
Protection: Policy-Durchsetzung für KI-Agenten zur Begrenzung ihrer Aktivitäten auf sichere und genehmigte Handlungen bei der Erledigung zugewiesener Aufgaben sowie Nutzung von Just-in-Time-Freigaben oder menschlichen Genehmigungen, wenn weitere Privilegien erforderlich sind.

Veränderte Sicherheitslage durch KI-Agenten

„KI-Agenten verändern die Sicherheitslage von Grund auf. Es handelt sich nicht nur um Anwendungen mit Datenzugriff, sondern um autonome Softwareprogramme, die Entscheidungen treffen, Werkzeuge nutzen, Maßnahmen ergreifen und delegierte Befugnisse mit Maschinengeschwindigkeit ausüben. Aus Sicht der Sicherheitsverantwortlichen kommt es jetzt darauf an, von einer reinen Zugangsverwaltung zu einem kontinuierlichen Trust Management überzugehen“, betont David Morimanno, Field CTO bei Xalient.

„Die Frage ist nicht nur, worauf eine digitale Identität Zugriff hat, sondern ob wir diesem KI-Agenten vertrauen, diese Maßnahme mit diesem Berechtigungsumfang, in diesem Kontext und genau jetzt durchzuführen. Mit AI Agent Security können diese Entscheidungen näher am Endpunkt getroffen und durchgesetzt werden, sodass Organisationen KI-gesteuerte Maßnahmen in Echtzeit steuern, ohne die Einführung von KI-Technologien zu behindern.“

AI Agent Security ist ab sofort auf der Plattform BeyondTrust Pathfinder für Windows- und macOS-Endpunkte verfügbar und erweitert bewährte Endpunkt-Privilegienkontrolle auf eine neue Klasse nicht-menschlicher Identitäten. Sichtbarkeit von Agentic-AI-Aktivitäten und entsprechende Schutzmechanismen laufen auf derselben Plattform, die Organisationen zur Analyse und Absicherung von Nutzerprivilegien in ihrer Umgebung einsetzen.

Zur Methodik der Studie: Phantom Labs von BeyondTrust analysierte die Endpunkt-Telemetriedaten der Aktivitäten von KI-Coding-Agenten anhand erster Kundenstichproben, einschließlich Shell-Befehlsanfragen. Die MCP-Ergebnisse spiegeln beobachtete Coding-Agent-Nutzer unter Windows und macOS wider und umfassen lokal konfigurierte und von Plugins hinzugefügte Server. Die Zahlen zu Shell-Befehlen umfassen Befehle, die von KI-Agenten angefordert, aber nicht unbedingt erfolgreich ausgeführt wurden.

KI-Governance

Einsatz von KI-Agenten – ein Ritt auf der Rasierklinge