Mobile-Menu
  DB Podcast

gesponsertKünstliche Intelligenz Darum sind AI Gateways zum Schutz nötig

2 min Lesedauer

Gesponsert von

F5 Networks GmbH

KI-Agenten benötigen Zugang zu Diensten, Tools und Daten. Aber dieser Zugriff darf nicht unbegrenzt sein. Zur Kontrolle sind API-basierte AI Gateways nötig.

Stephan Schulz ist Senior Principal Solutions Engineer bei F5 Networks.(Bild: F5 Networks GmbH)
Stephan Schulz ist Senior Principal Solutions Engineer bei F5 Networks.
(Bild: F5 Networks GmbH)

Geschäftsanwendungen stellen ihre Funktionen über APIs bereit. Dabei konsolidieren Gateways API-übergreifende Funktionen wie Benutzerzugriff, Autorisierung und Service-Erkennung. Auch für KI-Agenten sind APIs entscheidend. Denn sie benötigen eine klare Abgrenzung, auf welche Ressourcen sie zugreifen dürfen und welchen Sicherheitskontext sie für jede ihrer Aktionen verwenden sollen.

Mehr über F5 Networks erfahren

Wenn ein Agent mehrere Aufgaben ausführt, sind eventuell verschiedene Autorisierungen unter Verwendung unterschiedlicher Sicherheitskontexte nötig. Auch Eingaben und Antworten variieren stark und entwickeln sich im Laufe der Zeit weiter. Zudem steigt der Bedarf an leistungsfähigen APIs mit der Anzahl der Agenten. APIs müssen daher einen angemessenen Zugriff automatisch ermöglichen.

Der KI-Torwächter

(Bild: F5 Networks GmbH)
(Bild: F5 Networks GmbH)

Bestehende Lösungen für die API- und Anwendungssicherheit reichen daher nicht aus. Der F5 AI Gateway sichert, beschleunigt und überwacht dagegen speziell KI-gestützte Anwendungen. Dabei erfüllt er die wichtigsten Anforderungen für ihre Bereitstellung und die OWASP LLM Top Ten-Liste für die Sicherheit.

Weitere Funktionen ermöglichen die Berichterstattung über eine Vielzahl von Metriken mit Hilfe von OpenTelemetry, die sorgfältige Beachtung von Audit-Protokollanforderungen, semantisches Caching, Ratenbegrenzung und inhaltsbasiertes Modell-Routing. Sie gewährleisten die Unterstützung aller drei Anforderungen an die Bereitstellung und Sicherheit von KI: beobachten, schützen und beschleunigen. Dabei können Unternehmen die Lösung durch ein Plug-in-Ökosystem an individuelle Anforderungen anpassen. Es wird durch ein Software Development Kit für Python, Rust und Go unterstützt. 

Einfache Einrichtung

Als Bestandteil der F5 Application Delivery and Security Platform ist AI Gateway einfach einzurichten und zu optimieren. Teams können mit minimalem Aufwand Richtlinien erstellen und Erkennungsparameter für verschiedene Umgebungen verfeinern. Erweiterte Erkennungsfunktionen lassen sich mit eingesetzten Sicherheitstools verbinden. So können Analysten schnell Vorfälle korrelieren und automatisierte Reaktionen auslösen.

KI-Implementierungen erstrecken sich oft über interne Systeme, verwaltete Cloud-Dienste und externe Inferenzpunkte über verschiedene Regionen hinweg. Mit AI Gateway werden Sicherheitsstandards in diesen Umgebungen konsistent durchgesetzt, auch während des Modell-Routings. Dies umfasst:

  • Kontinuierliche Prüfung und Überwachung des Datenzugriffs und der Datenübertragung in jeder Bereitstellungsumgebung
  • Starke Authentifizierung und Autorisierung sowie Berechtigungsverwaltung und rollenbasierte Zugriffskontrolle (RBAC)
  • Inline-Bewertung jeder Eingabe und Antwort, die Inhalte sofort blockiert oder redigiert, ohne auf externe Proxys oder Endpunkt-Agenten angewiesen zu sein

Durch diese Funktionen müssen Unternehmen ihre Governance-Richtlinien nur einmal festlegen. Anschließend werden sie überall dort, wo KI-Teams tätig sind, konsistent angewendet.

Besuchen Sie uns auf der it-sa  in Halle 7A, Stand 531.

Jetzt Newsletter abonnieren

Verpassen Sie nicht unsere besten Inhalte

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte