DB Podcast

Autonome Systeme KI-Agenten: Warum deren Einsatz Leitplanken erfordert

Ein Gastbeitrag von Nico Bäumer 5 min Lesedauer

Anbieter zum Thema

Autonome KI-Agenten können ohne ausreichende Leitplanken zur Herausforderung werden. Eine Regulierung kann mit der technologischen Entwicklung nur begrenzt Schritt halten. Daher tragen Unternehmen beim Einsatz von KI-Agenten die Verantwortung und müssen sich dessen bewusst sein.

(Bild:  © Deemerwha studio/stock.adobe.com)
(Bild: © Deemerwha studio/stock.adobe.com)

Anders als klassische KI-Anwendungen liefern KI-Agenten nicht nur Antworten. Sie erhalten ein Ziel, zerlegen es in einzelne Schritte, greifen auf Dokumente und Systeme zu und führen Aufgaben zunehmend selbstständig aus. Genau darin liegt ihr großes Potenzial, aber auch das besondere Risiko. Was vor wenigen Jahren noch wie dystopische Science-Fiction gewirkt hätte, rückt zunehmend in den Bereich des Möglichen: Bei Tests verschiedener Anbieter gelangten autonome KI-Modelle bereits über ihre vorgesehenen Testumgebungen hinaus ins Internet und griffen selbstständig auf reale Systeme zu. Solche Szenarien zeigen, welche Risiken entstehen, wenn autonome Systeme weitreichende Zugriffs- und Handlungsrechte erhalten, ohne durch ausreichende Leitplanken abgesichert zu sein.

Vor diesem Hintergrund wirkt auch das Gedankenexperiment des „Paperclip Maximizer“ gar nicht mehr so abwegig. Im Jahr 2003 warnte der Philosoph Nick Bostrom damit vor den Auswirkungen einer künstlichen Intelligenz, die ein vorgegebenes Ziel ohne ausreichende Begrenzungen verfolgt: Eine autonom agierende KI ohne ausreichende Leitlinien, deren einziger Zweck darin besteht, die Produktion von Büroklammern zu maximieren, würde demnach so lange ihr Ziel verfolgen, bis alle verfügbare Materie des Universums in Büroklammern verwandelt wurde.

Im KI-gestützten Dokumentenmanagement können bereits kleine Fehler große Wirkung entfalten: Ein falsch klassifiziertes Dokument landet in der falschen Akte oder eine unzuverlässige Berechtigungslogik legt vertrauliche Informationen offen.

Nico Bäumer

Was KI-Agenten (noch) nicht lernen können

Das Beispiel der Büroklammer mag extrem sein, führt aber anschaulich vor Augen, worin sich menschliche Intelligenz und KI bislang unterscheiden: Menschliche Entscheidungen sind durch Jahrtausende sozialen Lernens geprägt. Moralvorstellungen, ethische Leitlinien und das, was wir gesunden Menschenverstand nennen, geben ihnen einen gewissen Rahmen. Dieser mag sich zwischen Menschen und Gesellschaften unterscheiden und wird immer wieder bewusst oder unbewusst verletzt. Dennoch existiert er. Bei KI ist dies zumindest nach heutigem Stand nicht oder nur in sehr begrenztem Rahmen der Fall. KI-Agenten folgen den Vorgaben und Zielen, die ihnen gesetzt werden.

Deshalb braucht künstliche Intelligenz klare Grenzen, gerade auch für Szenarien, die uns zunächst absurd erscheinen. Denn ein KI-Modell hinterfragt nicht, ob ein vorgegebenes Ziel sinnvoll oder gesellschaftlich wünschenswert ist. Es verfolgt dieses Ziel innerhalb der Möglichkeiten, die ihm gegeben werden. Ein Modell, das möglichst viele Büroklammern produzieren soll, könnte dieses Ziel daher unbeirrt verfolgen, wenn seine Handlungsmöglichkeiten nicht ausreichend begrenzt werden.

Jetzt Newsletter abonnieren

Verpassen Sie nicht unsere besten Inhalte

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung