Management KI-Agenten: Agent Rewind von Rubrik verbessert KI-Resilienz

Anbieter zum Thema

Rubrik Germany GmbH

CADFEM Germany GmbH

xSuite Group GmbH

Esker Software Entwicklungs-und Vertrieb

Rubrik, Inc. hat die Einführung von Agent Rewind auf der KI-Infrastruktur von Predibase, das kürzlich übernomen wurde, angekündigt. Durch das neue Angebot erhalten Unternehmen Einblick in die Aktionen von KI-Agenten und können ihre Fehler rückgängig machen.

KI-Agenten haben großes Potenzial. Aber wie Menschen machen sie Fehler. Sie können auch Probleme verursachen, wie unerwartete Unterbrechungen im Geschäft. Jüngste Vorfälle mit fehlerhaften KI-Agenten zeigen ein Spektrum von Situationen auf, das von technischen Fehlfunktionen über rechtliche Probleme bis hin zur Löschung ganzer Produktionsdatenbanken reicht. Eine aktuelle Studie hat ergeben, dass KI-Agenten häufig desorientiert sind, falsche Abkürzungen wählen und Schwierigkeiten haben, einfache mehrstufige Aufgaben auszuführen. Das offenbart kritische Mängel, die die Zuverlässigkeit und Effektivität von KI-Agenten beeinträchtigen.

Agentic AI ermöglicht Konzept des nicht-menschlichen Fehlers

Johnny Yu, Research Manager bei IDC, erklärt: „Wenn Unternehmen überlegen, in künstliche Intelligenz zu investieren, berücksichtigen sie oft nicht die Fehler, die KI-Agenten machen können und werden. Agentic AI führt das Konzept des nicht-menschlichen Fehlers ein. Wie bei ihrem menschlichen Pendant sollten Unternehmen nach Lösungen suchen, mit denen sie potenziell katastrophale Fehler korrigieren können, die von KI-Agenten gemacht werden.“

Anneka Gupta, Chief Product Officer bei Rubrik, erklärt: „Mit zunehmend autonomen und ergebnisorientierten KI-Agenten steigt das Risiko unbeabsichtigter Fehler, die zu Betriebsausfällen führen. Agent Rewind integriert die fortschrittliche KI-Infrastruktur von Predibase mit den Wiederherstellungs-Funktionen von Rubrik, sodass Unternehmen agentenbasierte KI vertrauensvoll einsetzen können. Unternehmen verfügen nun über einen klaren Prozess, um unerwünschte KI-Aktionen zu verfolgen, zu überprüfen und sicher rückgängig zu machen.“

Risikoreiche Aktionen von KI-Agenten rückgängig machen

Agent Rewind macht zuvor schwer nachvollziehbare KI-Aktionen sichtbar, überprüfbar und reversibel. Er erstellt ein Prüfprotokoll mit unveränderlichen Momentaufnahmen, das ein sicheres Zurücksetzen erlaubt. Aktuelle Observability-Tools zeigen nur, was passiert ist, aber nicht, warum oder wie risikoreiche Aktionen rückgängig gemacht werden können.

Mit zunehmend autonomen und ergebnisorientierten KI-Agenten steigt das Risiko unbeabsichtigter Fehler, die zu Betriebsausfällen führen können.

Anneka Gupta, Rubrik

Chad Pallett, Chief Information Security Officer bei BioIVT, einem Forschungspartner und Anbieter von Biospecimen-Lösungen für die Arzneimittel- und Diagnostikentwicklung, berichtet: „Agent Rewind schließt die Lücke zwischen dem, was passiert ist, warum es passiert ist und wie es rückgängig gemacht werden kann. Bei der Verwendung von KI sind Beobachtung und sichere Wiederherstellung erforderlich. Rubrik und Predibase bieten nicht nur Datensicherheit und Modellgeschwindigkeit, sondern auch die Möglichkeit, KI wiederherzustellen. In einem Markt, der nach echter Observability und Wiederherstellbarkeit verlangt, ist Agent Rewind die Antwort, auf die ich gewartet habe.“

KI-Agenten unter Kontrolle halten

Wenn künstliche Intelligenz fehlschlägt, bietet Agent Rewind von Rubrik folgende Funktionen:

• Kontextbezogene Sichtbarkeit: Erfasst Agentenverhalten und dessen Auswirkungen sowie die Verwendung von Tools. Jede Aktion wird in einen Kontext gesetzt und auf ihre Ursache zurückgeführt – von Prompts über Pläne bis hin zu Tools. Dies erlaubt eine präzise Wiederherstellung, wenn etwas schiefgeht.
• Sichere Rollbacks: Verwendet Rubrik Security Cloud, um Änderungen zurückzusetzen, unabhängig davon, ob es sich um Dateien, Datenbanken, Konfigurationen oder Repositorys handelt.
• Breite Kompatibilität: Nahtlose Integration mit einer Vielzahl von Plattformen, APIs und Agenten-Erstellern, darunter Agentforce, Microsoft Copilot Studio und Amazon Bedrock Agents. So ist Agent Rewind mit jedem benutzerdefinierten KI-Agenten kompatibel.

Sicherheitsstrategie

Cyberangriffe: Vorstand, übernehmen Sie jetzt!