Steuerung von KI KI-Agenten: Neue Lösung von ServiceNow soll deren Kontrolle verbessern

Anbieter zum Thema

ServiceNow

CADFEM Germany GmbH

Esker Software Entwicklungs-und Vertrieb

Yorizon GmbH & Co. KG

Mit AI Passport bietet ServiceNow eine neue Lösung, mit der Unternehmen Berechtigungen von KI-Agenten in Echtzeit überprüfen können. Zudem wurde der Super Intelligence Control Tower um Funktionen zur Erkennung und Steuerung von KI erweitert, die mehr Transparenz schaffen und die Bewertung von KI-Kosten und -Nutzen erleichtern sollen.

ServiceNow hat jetzt die neue Lösung AI Passport sowie umfassende Erweiterungen des Super Intelligence Control Tower vorgestellt. Diese sollen Unternehmen dabei unterstützen, KI-Agenten sicher in den produktiven Betrieb zu überführen. Dafür verbindet ServiceNow die Kontrolle und Steuerung von KI-Agenten während des laufenden Betriebs mit der Integration in bestehende Plattformen und einer umfassenden Überwachung – gebündelt in seiner operativen KI-Umgebung.

AI Passport bildet dabei eine neue Berechtigungsebene: Unternehmen können während der Ausführung kontrollieren, welche Aktionen KI-Agenten in jeder Phase eines Workflows ausführen dürfen. Mit erweiterten Governance-Funktionen ermöglicht ServiceNow Unternehmen zudem, einen Überblick über ihre eingesetzten KI-Systeme zu gewinnen, die Aktivitäten der Agenten zu kontrollieren und die Kosten des KI-Einsatzes ins Verhältnis zu den erzielten Ergebnissen zu setzen.

Einsatz von KI-Agenten erfordert ein Reasoning-Modell

Damit KI-Agenten Unternehmensprozesse sicher ausführen können, brauchen sie mehr als ein Reasoning-Modell. Sie benötigen eine klare Struktur: Auf welche Daten und Werkzeuge sie zugreifen dürfen, welche Aktionen zulässig sind und wer diese autorisiert hat. Letzteres muss nachvollziehbar dokumentiert sein. ServiceNow schafft die operative Grundlage: AI Passport ist ein kryptografisch signierter Berechtigungsnachweis, anhand dessen KI-Agenten während der Ausführung prüfen, einschließlich Umgebungen wie Nvidia OpenShell, welche Aktionen sie ausführen dürfen. Dabei wird der Geschäftskontext des Unternehmens berücksichtigt, damit Entscheidungen im Rahmen der geltenden Vorgaben getroffen werden.

Solange ein Agent innerhalb dieser Berechtigungen handelt, kann er eigenständig agieren. Weicht er davon ab, lassen sich abgestufte Maßnahmen durchsetzen: Der Agent kann neu ausgerichtet, in seinen Handlungsmöglichkeiten eingeschränkt oder erneut mit dem erforderlichen Kontext versorgt werden. Falls nötig, lässt er sich über eine Kill-Switch-Funktion in Maschinengeschwindigkeit stoppen. Der Super Intelligence Control Tower dokumentiert dabei lückenlos, wer welche Aktion autorisiert hat und wie sie ausgeführt wurde. So wird die Arbeit von Agenten steuerbar und überprüfbar, und Verantwortlichkeiten bleiben nachvollziehbar.

Jon Sigler, Executive Vice President und General Manager AI Platform bei ServiceNow, erklärt: „Je mehr KI-Agenten in Unternehmen eingesetzt werden, desto weniger reicht Transparenz allein aus. Unternehmen müssen sich darauf verlassen können, dass jeder KI-Agent innerhalb seiner Berechtigungen handelt. ServiceNow schließt diese Lücke mit einer operativen KI-Plattform, die AI Passport und neue Funktionen miteinander verbindet. Sie führt die Steuerung von Berechtigungen und Handlungsspielräumen der KI-Agenten, Governance und die Überwachung des laufenden Betriebs zusammen. So können Unternehmen den Einsatz agentischer KI kontrolliert skalieren. “

 Unternehmen müssen sich darauf verlassen können, dass jeder KI-Agent innerhalb seiner Berechtigungen handelt. ServiceNow schließt diese Lücke mit einer operativen KI-Plattform, die AI Passport und neue Funktionen miteinander verbindet.

Jon Sigler, ServiceNow

AI Passport: Verifizierte Berechtigungen und deren Durchsetzung

AI Passport basiert auf offenen Spezifikationen. Dadurch können Governance-Lösungen, Identitätsanbieter und Kontrollinstanzen Berechtigungsnachweise für eigene KI-Agenten und KI-Agenten von Drittanbietern ausstellen und überprüfen. Diese Nachweise lassen sich bei jedem Schritt eines Multi-Agenten-Workflows verifizieren. Dies markiert einen grundlegenden Wandel von der nachträglichen Kontrolle hin zur präventiven Absicherung. Während Audit-Protokolle erst im Nachhinein dokumentieren, welche Aktionen ausgeführt wurden, trägt AI Passport dazu bei, unzulässige Handlungen der Agenten von vornherein zu verhindern.

Dazu wird während des laufenden Betriebs geprüft und gesteuert, welche Aktionen die Agenten ausführen dürfen. Dies repräsentiert den “Shift Zero”-Ansatz von ServiceNow: Sicherheit von Anfang an mitgedacht. Jeder KI-Agent erhält einen eigenen AI Passport, der vom Super Intelligence Control Tower ausgestellt wird. Als Grundlage dient der aktuelle Geschäftskontext des Unternehmens, abgebildet durch die ServiceNow Configuration Management Database (CMDB), die Richtlinien für Governance, Risk und Compliance (GRC) sowie Workflow-Freigaben. Gerade bei KI-Agenten von Drittanbietern entsteht so ein überprüfbarer Berechtigungsnachweis, der über die bloßen Angaben des Agenten zu seinen eigenen Berechtigungen hinausgeht.

Enterprise AI Maturity Index

KI-Agenten: Wie aus diesen eine Autonomous Workforce wird