Autonomer IT-Betrieb Observability als Grundlage für eine zuverlässige KI

Anbieter zum Thema

Dynatrace GmbH

d.velop AG

Esker Software Entwicklungs-und Vertrieb

Yorizon GmbH & Co. KG

KI verändert bereits grundlegend, wie Software entwickelt und betrieben wird. Viele Unternehmen nutzen agentische KI, um ihre Prozesse zu automatisieren. Sie ergänzen ihre Teams mit intelligenten Assistenten, verändern aber kaum die etablierte Arbeitsweise. Manche Unternehmen richten die Softwareentwicklung und den IT-Betrieb auf KI-zentrierte Prozesse aus, um die Observability zu stärken.

Unabhängig vom Ansatz wird deutlich: Vertrauenswürdige KI braucht aktuelle Daten, klare Leitplanken und präzise Einblicke in die Systeme, in denen sie arbeitet. Je mehr Verantwortung KI übernimmt, desto wichtiger wird das Gleichgewicht zwischen den kreativen und schlussfolgernden Fähigkeiten generativer KI und Systemen, die faktische Genauigkeit, Transparenz und betriebliche Zuverlässigkeit für die Observability gewährleisten.

Observability: Zwei Seiten der KI

Generative KI arbeitet probabilistisch. Sie eignet sich für Brainstormings, neue Inhalte und komplexe Ideenprozesse. Ihre Stärke liegt dort, wo deterministische Verfahren an Grenzen stoßen. Für kritische IT-Prozesse braucht es jedoch ein faktenbasiertes Gegenstück. Dieses System arbeitet nachvollziehbar und reproduzierbar – ähnlich wie ein Taschenrechner. Es zieht Schlussfolgerungen aus verifizierten Daten, Echtzeit-Topologien, kausalen Abhängigkeiten und präzisen Messwerten. So entstehen Antworten, auf deren Grundlage Teams verlässlich handeln können.

Das ist entscheidend, weil KI-Agenten eigenständig schlussfolgern und handeln können. Laut einer aktuellen Studie von Dynatrace entwickeln 64 Prozent der Unternehmen eine Kombination aus autonomen und von Menschen überwachten Agenten, während 23 Prozent ausschließlich von Menschen überwachte Agenten und 13 Prozent ausschließlich autonome Agenten entwickeln. Was den Reifegrad der Projekte betrifft, so sind 50 Prozent der Projekte im Bereich der agentenbasierten KI bereits für begrenzte Anwendungsfälle im Einsatz, doch nur 23 Prozent haben eine ausgereifte, unternehmensweite Integration erreicht.

Diese Lücke ist kein Versagen der KI. Sie zeigt vielmehr, dass auch das Umfeld, in dem KI-Agenten arbeiten, weiter reifen muss. Unternehmen, die Kontext, Genauigkeit und verlässliche Rückmeldungen sicherstellen, schaffen die Grundlage für eine schnellere Skalierung. Fehlen hochwertige Informationen, kann generative KI halluzinieren und einen Agenten vom richtigen Weg abbringen. Aus einer ungenauen Antwort wird dann eine falsche Aktion. In mehrstufigen Abläufen können sich solche Fehler verstärken. Die Folgen reichen von Ausfällen bis zu Sicherheitsrisiken.

Drei Stufen zu echter Autonomie

Der Weg von der Automatisierung zur Autonomie verläuft schrittweise. Unternehmen beginnen mit klar definierten Anwendungsfällen, etablieren Kontrollmechanismen und erweitern die Rolle der KI, sobald ihre Ergebnisse verlässlich sind. In der ersten Phase automatisiert das System bekannte Abläufe. Es übernimmt klar definierte Aufgaben und reagiert auf bekannte Probleme. Grundlage sind aktuelle Betriebsdaten und festgelegte Regeln.

In der zweiten Phase arbeitet die KI unter menschlicher Aufsicht. Sie analysiert neue Situationen, erfasst deren geschäftliche Auswirkungen und erstellt einen umsetzungsreifen Maßnahmenplan. Eine Fachkraft prüft den Plan und gibt ihn frei, bevor das System handelt. Menschen legen die Ziele fest, beschreiben die Aufgaben und sind weiterhin an wichtigen Entscheidungen beteiligt, während die KI die Aufgaben ausführt, um die festgelegten Ziele zu erreichen, und die vorliegenden Daten analysiert. Zuverlässigkeit, Transparenz und verlässliche Rückmeldungen sind in dieser Phase entscheidend.

In der dritten Phase arbeiten Systeme innerhalb festgelegter Ziele und Grenzen selbstständig. Sie verwalten Umgebungen, optimieren Kosten und Leistung und beheben Probleme, bevor diese Nutzerinnen und Nutzer beeinträchtigen. Zugleich überwachen sie sich selbst, prüfen die Einhaltung von Vorgaben und liefern Erkenntnisse für die weitere Steuerung.

Menschen behalten dabei eine entscheidende Rolle. Sie überprüfen Ergebnisse, passen Strategien an und geben die Richtung vor. Im Mittelpunkt stehen Wissensmanagement, Ziele und die Regeln, nach denen das System arbeitet. Sie gestalten damit, was das System leisten soll, während die KI zunehmend die taktische Umsetzung übernimmt.

Kontrolle von KI-Tools

KI-Observability: 40 Prozent der Unternehmen wollen LLMs überwachen