DB Podcast

Business Strategy

KI-Agenten und die Lücke nach der Freigabe

< zurück

Seite: 2/2

Anbieter zum Thema

Den Versand mit KI-Agenten getrennt prüfen

Ob ein Versand erlaubt ist, sollte ein Prüfschritt außerhalb des Sprachmodells entscheiden. OWASP empfiehlt, Zugriffsrechte auf das Nötige zu begrenzen und die Berechtigung im ausführenden System zu kontrollieren. Das Sprachmodell allein soll laut dem “OWASP Gen AI Security Project: LLM06 2025 Excessive Agency” eine Aktion nicht erlauben können.

Im Beispiel dürfen KI-Agenten die benötigten Informationen lesen und das Angebot vorbereiten. Der Programmteil für den Versand hat die Berechtigung zum Senden. Er nimmt nur Aufträge an, für die eine gültige Freigabe vorliegt. Diese Regel muss für jeden möglichen Versandweg gelten, auch für andere Schnittstellen.

Programme zur Automatisierung können solche Prüfungen unterstützen. n8n kann zum Beispiel einen einzelnen Aufruf zum Senden oder Ändern vor der Ausführung anhalten und die vorgesehenen Angaben zur menschlichen Prüfung anzeigen. Die Anwendung muss zusätzlich sicherstellen, dass die angezeigten Angaben und die später ausgeführte Aktion übereinstimmen.

Während der Wartezeit ändern sich Daten

Während eine Freigabe aussteht, kann ihre Grundlage entfallen. Ein Kunde zieht seine Anfrage zurück, die zuständige Person verliert ihre Berechtigung oder eine neue Preisliste tritt in Kraft. Das Unternehmen muss deshalb festlegen, welche Änderungen eine erneute Prüfung auslösen.

Im Angebotsbeispiel hält das System den Versand an, sobald eine solche Voraussetzung fehlt. Es aktualisiert die freigegebene Nachricht nicht stillschweigend. Ein ausbleibender Klick bleibt eine offene Entscheidung, auch nach einem technischen Neustart. Eine doppelt übermittelte Freigabe darf nur einen Versand auslösen. Bricht die Verbindung nach dem Senden ab, muss zunächst der Versandstatus geklärt werden. Ein ungeprüfter zweiter Versuch könnte die Nachricht erneut zustellen.

Was ein Stopp noch verhindern kann

Ein Stopp muss auch Aufträge erreichen, die bereits laufen oder auf eine Freigabe warten. Der Programmteil für den Versand prüft deshalb unmittelbar vor dem Senden, ob der Auftrag gesperrt wurde. Wer nur den Eingang neuer Vorgänge abschaltet, lässt bereits wartende Aufträge möglicherweise weiterlaufen.

Eine zugestellte E-Mail lässt sich damit nicht verlässlich zurückholen. Für einen Fehlversand braucht das Unternehmen einen Korrekturprozess. Aus dem Protokoll sollte hervorgehen, welche Fassung genehmigt wurde, wer zustimmte und ob der Versand gelang. Zugriffsrechte und Aufbewahrungsdauer werden nach dem Zweck festgelegt. Dafür muss nicht pauschal die gesamte Kundenkorrespondenz in technischen Protokollen gespeichert werden.

Aufgaben für KI-Agenten schrittweise freigeben

Ein Unternehmen kann einem KI-Agenten einzelne Aufgaben zur selbstständigen Bearbeitung erlauben. Er kann Anfragen zuordnen, während Angebote weiterhin eine menschliche Prüfung brauchen. Später lässt sich ein genau beschriebener Versandfall freigeben, zum Beispiel eine unveränderte Eingangsbestätigung an eine geprüfte Adresse.

Vorher sollte das Unternehmen die Fehlerfälle aus der Tabelle testen: einen geänderten Empfänger, eine abgelaufene Freigabe und einen wiederholten Versandauftrag. Das System muss jeweils wie vorgesehen reagieren. Diese Tests sollten auch nach einem Wechsel des Sprachmodells wiederholt werden. Gute Texte allein zeigen noch nicht, ob die Prüfung vor dem Versand funktioniert.

FQA: Freigabe von KI-Agenten

Wo gehört die menschliche Freigabe hin?

Im Angebotsbeispiel prüft die Mitarbeiterin zuerst den gespeicherten Versandentwurf. Danach kontrolliert das System vor dem Senden, ob die Freigabe noch gilt. Der Abschnitt „Den Versand getrennt prüfen“ erklärt, warum diese Regel für alle Versandwege gelten muss.

Was passiert mit geänderten Daten?

Eine andere Empfängeradresse oder ein geänderter Inhalt braucht im beschriebenen Ablauf eine neue Prüfung. Auch eine inzwischen ungültige Preisliste kann den Versand stoppen. Die Tabelle zeigt, wie das System in diesen Fällen reagieren soll.

Reicht ein zentraler Ausschalter?

Er muss auch wartende Aufträge vor dem Versand sperren können. 
Der Abschnitt „Was ein Stopp noch verhindern kann“ beschreibt die Grenze: Eine bereits zugestellte E-Mail braucht einen eigenen Korrekturprozess.

Den Ablauf mit Fehlerfällen prüfen

Für den nächsten Test wird ein genehmigtes Angebot verwendet. Dann wird die Empfängeradresse geändert, die Freigabe läuft ab oder derselbe Auftrag wird ein zweites Mal übermittelt. Die Reaktionen aus der Tabelle zeigen, was das System jeweils tun muss. So lässt sich prüfen, ob tatsächlich nur der gültig genehmigte Auftrag versendet wird.

KI AgentenLucas Blochberger
ist Gründer und Geschäftsführer von Blck Alpaca mit Sitz in Wien. Die Agentur entwickelt KI-Agenten und automatisiert Content- und Marketingprozesse für Unternehmen.

Bildquelle: Blck Alpaca

Jetzt Newsletter abonnieren

Verpassen Sie nicht unsere besten Inhalte

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung