Anbieter zum Thema

Okta Deutschland

d.velop AG

Esker Software Entwicklungs-und Vertrieb

Yorizon GmbH & Co. KG

Vier Herausforderungen bei der Absicherung von KI

Initiativen rund um Modellsicherheit und Lieferkettenintegrität bieten wichtige Grundlagen für die Absicherung von KI-Agenten. Diese Architektur ergänzt sie, indem sie die Governance-Ebene nach der Bereitstellung abdeckt. Sie sichert unterschiedlichste Agenten-Typen ab – von internen Workforce-Agenten bis hin zu Systemen mit Kunden- und Partnerkontakt –, die über Organisationsgrenzen hinweg agieren und auf verschiedene Ressourcen zugreifen. Durch die Abdeckung dieses Bereichs erhalten Organisationen eine agentische Zero-Trust-Steuerungsebene und Technologieführer eine konkrete Möglichkeit, die Bereitstellung von KI-Agenten sicher zu skalieren, wodurch vier zentrale Herausforderungen bewältigt werden:

Wo sind meine KI-Agenten? Unternehmen können keine Agenten verwalten oder schützen, von denen sie nicht wissen, dass sie existieren.

• Entwicklung, Erkennung und Identität von KI-Agenten: Erfassen und katalogisieren Sie jeden Agenten, von intern entwickelten Agenten über importierte SaaS- und Drittanbieter-Agenten bis hin zu nicht verwalteter Schatten-KI. Registrieren Sie jeden Agenten als eindeutige, verifizierte Identität mit einem verantwortlichen menschlichen Besitzer oder einem operativen Team. 
• Security Posture Management für KI-Agenten: Bewerten Sie jeden Agenten kontinuierlich auf Schwachstellen und Fehlkonfigurationen und registrieren Sie anschließend jeden validierten Agenten als eigenständige, verifizierte Identität mit einem/einer verantwortlichen menschlichen Eigentümer:in oder einem Betriebsteam.

Wie können IT-Verantwortliche handeln? Sobald ein Agent über eine verifizierte Identität verfügt, benötigt er explizite Grenzen, bevor er handeln darf.

• Zugriffsrichtlinien: Beschränken Sie Berechtigungen strikt auf die jeweilige Aufgabe statt dauerhafte Privilegien zu vergeben – und halten Sie Delegationen durchgängig nachvollziehbar, wenn Agenten Sub-Agenten erstellen und im Auftrag von Personen handeln. 
• Governance: Sorgen Sie dafür, dass Berechtigungen durch automatisierte Zugriffsüberprüfungen, Funktionstrennung und Joiner-Mover-Leaver-Prozesse, die auf Agenten-Scope, Eigentümerschaft und Modellversionen angewendet werden, stets dem Least-Privilege-Prinzip entsprechen.

Was können IT-Verantwortliche tun? Transparenz und Identity-Management sind ohne integrierte Laufzeitüberwachung von Agenten wirkungslos.

• Laufzeitautorisierung und -überwachung: Setzen Sie Zugriffsrichtlinien inline über Gateways durch, die sich im Ausführungspfad befinden, und beobachten Sie das Agentenverhalten während der Sitzung kontinuierlich, um Datenabfluss, Prompt Injection und anomale Aktivitäten zu erkennen. 
• Ressourcenzugriff: Verfolgen und schützen Sie kontinuierlich das nachgelagerte Ziel, das ein Agent erreichen kann, von MCP-Servern und SaaS-Apps bis hin zu Datenspeichern und Zahlungssystemen, damit der Schadensradius eines Agenten bekannt ist.

Wie können Unternehmen reagieren? Wenn die Überwachung eine Bedrohung erkennt, benötigt das Unternehmen automatisierte, präzise Kontrollen, die einen Agenten sofort stoppen und bei Bedarf wiederherstellen.

• Reaktion und Durchsetzung: Nutzen Sie Risikosignale, um eine Bedrohung durch gezielte Eindämmung, Ratenbegrenzung, Token-Widerruf, Beendigung von Sessions oder Netzwerkquarantäne zu neutralisieren, ohne das breitere Ökosystem zu stören. 
• Wiederherstellung des Zugriffs: Stellen Sie einen isolierten Agenten durch erneute Attestierung und stufenweise erneute Registrierung wieder her, wobei sichergestellt wird, dass die Wiedereinsetzung bewusst, dokumentiert und überprüfbar erfolgt.

All diese Säulen werden durch die grundlegenden Elemente von Ausführungskontext und Risikosignalen unterstützt, die kontinuierlich durch Laufzeittelemetrie, Protokollierung und Observability gespeist werden. Zusammen bilden sie das Bindeglied, mit dem das System Risikomuster erkennen und abgestimmt reagieren kann.

Mitglieder der Allianz verpflichten sich zu InteroperabilitätDie Allianz wird die Architektur weiter vorantreiben und sie in ein aktives, praktisches Engagement über den gesamten Agentic Stack hinweg umsetzen:

• Anbieterübergreifender Signalaustausch: Die Gründungsmitglieder entwickeln und testen die Interoperabilität über offene Standards hinweg, darunter MCP, OCSF, SSF und CAEP, um sicherzustellen, dass ein von einem Laufzeit-Monitor gemeldetes Bedrohungssignal Echtzeitaktionen in allen verbundenen Steuerungsebenen auslöst.
• Veröffentlichung von Referenzintegrationen: Gründungsmitglieder werden regelmäßig gemeinsame Interoperabilitätsergebnisse und Referenzintegrationen veröffentlichen, die als Bindeglied für ein herstellerübergreifendes Sicherheitsökosystem dienen.

Einschätzungen der Gründungsmitglieder

„Amazon Web Services ist der Blueprint Alliance als Gründungsmitglied beigetreten, um Unternehmen einen einheitlichen Ansatz für die Erkennung, Steuerung und Absicherung von Agenten im gesamten Enterprise-Umfeld zu bieten“, sagt Chet Kapoor, VP of Security, Search and Observability bei AWS.

„KI gestaltet Unternehmen neu, und Sicherheit muss die Grundlage für alles sein, was als Nächstes kommt. Keine einzelne Technologie und kein einzelner Anbieter kann die agentische Ära allein absichern. CrowdStrike bringt unsere führende Position bei der Absicherung agentengesteuerter Unternehmen in die Blueprint Alliance ein, um eine offene, interoperable Architektur voranzutreiben, die Organisationen dabei unterstützt, KI-Agenten sicher und in großem Maßstab bereitzustellen und zu betreiben“, erklärt Daniel Bernard, Chief Business Officer bei CrowdStrike.

„Die Absicherung von KI-Agenten erfordert Governance über die gesamte KI-Landschaft hinweg. Databricks ist der Blueprint Alliance beigetreten, um diesen offenen, herstellerübergreifenden Ansatz durch Unity Catalog und Unity Gateway bereitzustellen und Unternehmen so eine einheitliche Kontrolle über Daten, Modelle, Agenten und Tools in jeder Cloud zu ermöglichen, unabhängig davon, wo sie ausgeführt werden. Wir bringen unsere Erkenntnisse aus der Entwicklung des Databricks AI Security Framework ein und freuen uns darauf, die Allianz dabei zu unterstützen, gemeinsame Prinzipien in interoperable Standards umzuwandeln“, sagt David Meyer, SVP Product bei Databricks.

„Da KI-Agenten in Unternehmensumgebungen schnell skalieren, benötigen Unternehmen die Flexibilität, Best-of-Breed-Lösungen für Identität, Sicherheit und Laufzeit über heterogene Stacks hinweg zu verknüpfen. Google Cloud bietet eine umfassende, durchgängige Agenten-Plattform und robuste Sicherheitsfunktionen, entwickelt mit einem dauerhaften Bekenntnis zu offenen, interoperablen Architekturen, die Kund:innen volle Wahlfreiheit bieten. Wir freuen uns, mit Okta und der Blueprint Alliance zusammenzuarbeiten, um offene Standards zu etablieren, die Zero-Trust-Governance, nachvollziehbare Delegierung und nahtlosen Schutz über den gesamten Agenten-Lebenszyklus hinweg vorantreiben“, sgt Abhi Sawant, VP of Engineering, Platform Security bei Google Cloud.

„Die Blueprint Alliance entstand, weil Unternehmen eine konsistente Architektur zur Absicherung von Agenten brauchten – eine Lösung, die Identität, Zugriffe und Ausführung über den gesamten Stack hinweg steuert, ohne die Autonomie einzuschränken, die Agenten überhaupt erst so wertvoll macht. Dieses Ziel erforderte eine gemeinsame Ausrichtung der Gründungsmitglieder in der Blueprint Alliance, anstatt dass jede Seite das Problem isoliert für sich löst. Wir freuen uns, zu dieser Arbeit beigetragen zu haben, und sehen dem branchenweiten Aufbau sowie dem Testing auf dieser Basis erwartungsvoll entgegen, während wir gemeinsam die Zukunft der KI absichern“, sagt Steven Tamm, SVP of Ecosystem bei Okta.

„Die Absicherung des agentengesteuerten Unternehmens erfordert mehr als Identitätskontrollen. Es erfordert Governance, Orchestrierung und die Fähigkeit, jede Entscheidung und Aktion eines Agenten nachzuverfolgen. Die Blueprint Alliance vereint den gesamten Stack, um die entscheidenden Fragen zu beantworten, die sich jedes Unternehmen stellt: Wo sind meine Agenten? Was können sie tun? Was tun meine Agenten tatsächlich? ServiceNow freut sich darauf, mit Okta und unseren Partner:innen zusammenzuarbeiten, um diesen Standard in der Praxis umzusetzen, damit Unternehmen KI zuversichtlich und sicher skalieren können“, so Bhakti Pitre, VP, AI Platform Security and Governance bei ServiceNow.

„Die Zukunft der KI ist agentisch – und ihre Absicherung beginnt mit Zero Trust. Durch die Zusammenarbeit in der Blueprint Alliance unterstützt Zscaler dabei, ein praxistaugliches Framework zu schaffen, das steuert, wie sich KI-Agenten in modernen Enterprise-Umgebungen verbinden, agieren und auf Daten zugreifen“, sagt Raveesh Chugh, VP of Strategic Technology Partnerships bei Zscaler.