Retrieval Augmented Generation KI-Steuerung: Trends der intelligenten Transformation

Anbieter zum Thema

xSuite Group GmbH

Esker Software Entwicklungs-und Vertrieb

Yorizon GmbH & Co. KG

Viele Unternehmen experimentieren heute mit isolierten KI-Anwendungen, etwa einem Chatbot in der Kundenansprache. Doch ein solcher Einsatz birgt Risiken. Orchestrierungstools müssen hier die Compliance sicherstellen und die KI-Steuerung in die Business Intelligence einbinden. In Zukunft wird neben den „Large Action Models“, die autark handeln, die „Retrieval Augmented Generation“ eine große Rolle spielen.

Die meisten deutschen Unternehmen befinden heute sich in einer Phase des Experimentierens mit den Large Language Models (LLMs). In den einzelnen Abteilungen wird mehr oder weniger vereinzelt versucht, die KI effizient und gesetzeskonform einzusetzen. Typisches Beispiel: Ein autonom agierender Chatbot interagiert auf der Webseite mit den Kunden, oft basierend auf dem LLM ChatGPT von OpenAI. Doch ein solcher KI-Einsatz birgt Risiken, wenn er nicht zentral koordiniert wird.

Risiko- und Qualitätsmanagement erforderlich

Der Einsatz von generativer KI in den Unternehmen ist eine Frage der Business Intelligence: Ohne eine zentrale Steuerung, ohne ein professionelles Risiko- und Qualitätsmanagement erscheint der Einsatz eines intelligenten Chatbots eigentlich unverantwortlich. Die Übereinstimmung mit Gesetzen wie dem EU AI Act mit seinen Kennzeichnungspflichten kann durch die Nutzung einer Unified Generative AI Orchestration Plattform gewährleistet werden. Hier gibt das Management den unternehmensweiten Rahmen vor und stellt die Compliance sicher.

Auch Unternehmenswerte wie Sorgfalt, Sicherheit oder Verlässlichkeit müssen ja eingehalten werden. Unausgereifte, risikobehaftete Experimente einzelner Abteilungen sind mit einer solchen Plattform nicht mehr möglich. Dabei muss die Zuverlässigkeit der Ergebnisse dringend verbessert werden, sonst verschlingt die Prüfung durch menschliches Personal mehr Ressourcen, als die KI eigentlich einsparen soll. Bei der „Retrieval Augmented Generation“ (RAG) wird die Verarbeitung natürlicher Sprache in den LLMs mit bereits vorhandenem Wissen aus diversen Datenbanken ergänzt und rational verlässlich. Erst wenn die inhaltliche Verlässlichkeit der Ergebnisse durch die abfragebasierten Techniken der RAG gewährleistet ist, eröffnet sich der nächste Schritt der intelligenten Automatisierung: die Entwicklung und Implementierung von „Large Action Models“ (LAMs).

KI-Steuerung durch integrierbare „Agenten“

Solche LAMs geben nicht nur wie die LLMs Text auf der Basis von Wahrscheinlichkeiten aus, sondern leiten Aktionen daraus ab und setzen diese auch autonom um. Diese „Agenten“ können in großem Maßstab in die Unternehmensprozesse integriert werden und führen zur weitgehenden Automatisierung vieler Workflows. In der nächsten Smartphone-Generation etwa werden solche Agenten tiefgreifend in die Betriebssysteme integriert und den privaten Nutzern ganz neue Nutzungserlebnisse ermöglichen. Das geht dann über die automatische Bildbearbeitung oder das Übersetzen hinaus. Bekannte Assistenten wie Siri oder Alexa werden echte Gesprächspartner, die nicht nur auf Anfrage Suchergebnisse liefern, sondern das gesuchte Produkt oder das Ticket auch direkt bestellen können. In den Unternehmen werden LAMs ähnlich einschneidende Veränderungen bringen. Die KI im Unternehmen wird dann nicht mehr aussehen wie das dialogbasierte ChatGPT. Sie wird von spezialisierten Dienstleistern entwickelt und bruchlos in die Prozesse integriert – oder sie gar komplett übernehmen. Dabei arbeitet sie weitgehend autonom.

Das wird auch die Rolle der Angestellten grundlegend verändern. Bis heute haben sie Schaufeln benutzt – morgen werden sie einen Bagger bedienen, der sehr effizient richtig viel Material bewegt. Die künstliche Intelligenz wird uns auf eine weitere Stufe der Automatisierung hieven.