KI-Strategie KI-Halluzinationen: Auslöser für geschäftliche Krisen

Anbieter zum Thema

Dataiku c/o Intertrust (Deutschland) GmbH

FIS Informationssysteme und Consulting GmbH

Esker Software Entwicklungs-und Vertrieb

Yorizon GmbH & Co. KG

Eine neue Studie von Dataiku zeigt, dass KI-Anwendungen in deutschen Unternehmen weitläufig im Einsatz sind. Zugleich berichten 76 Prozent der Datenverantwortlichen, dass sie im vergangenen Jahr mit geschäftlichen Problemen aufgrund von KI-Halluzinationen zu kämpfen hatten.

Der „Global AI Confessions Report“ von Dataiku ist die Neuauflage einer globalen Studie, an der mehr als hundert Datenverantwortliche in deutschen Unternehmen mit einem Jahresumsatz von über 1 Milliarde Euro teilnahmen. Die von The Harris Poll durchgeführte Umfrage zeigt eine akute Diskrepanz bei der KI-Nutzung auf: Einerseits sind KI-Anwendungen in Deutschland vergleichsweise weitläufig im Einsatz. Andererseits berichten 76 Prozent der deutschen Datenverantwortlichen, dass sie im vergangenen Jahr mit geschäftlichen Problemen oder Krisen aufgrund von KI-Halluzinationen zu kämpfen hatten. Damit stellt Deutschland einen weltweiten Negativrekord auf.

Laut der Studie ist die Dringlichkeit der Lage in deutschen Unternehmen noch nicht erkannt worden, denn trotz der mangelnden Performance von KI-Anwendungen akzeptieren deutsche Unternehmen die weltweit niedrigsten KI-Qualitätsstandards: 53 Prozent tolerieren Systeme, die bei geschäftskritischen Entscheidungen in mehr als 20 Prozent der Fälle falsch liegen.

Niedrige Qualitätsanforderungen treffen auf hohe Fehlerquoten

Datenverantwortliche in deutschen Unternehmen zeigen sich im internationalen Vergleich besonders tolerant gegenüber KI-Ungenauigkeiten, was gravierende Folgen nach sich zieht:

• Vier Prozent der deutschen Data Leaders verlangen sehr hohe Genauigkeit (95 bis 100 Prozent) von KI-Systemen, bevor sie geschäftskritische Entscheidungen zulassen – der niedrigste Wert weltweit (global: 15 Prozent).
• 53 Prozent akzeptieren sogar weniger als 80 Prozent Genauigkeit bei KI-gestützten Entscheidungen – ebenfalls ein Negativrekord im internationalen Vergleich (global: 38 Prozent).
• Diese Toleranz hat Konsequenzen: 59 Prozent der deutschen Data Leaders sehen KI-Halluzinationen in geschäftskritischen Workflows als „Katastrophe, die darauf wartet, zu passieren".
• 56 Prozent haben im vergangenen Jahr ein eingekauftes KI-Agent-System aufgegeben, weil es nicht die erwartete Performance oder den erhofften Mehrwert lieferte – der höchste Wert weltweit (global: 45 Prozent).

KI-Halluzinationen verursachen Transparenz- und Governance-Defizite

Trotz intensiver KI-Nutzung offenbart die Studie signifikante Lücken in der Nachvollziehbarkeit und Kontrolle von KI-Systemen:

• 17 Prozent der Data Leaders in deutschen Unternehmen verlangen konsequent eine vollständige End-to-End-Nachvollziehbarkeit von Multi-Agent-Workflows (global: 20 Prozent).
• 34 Prozent geben zu, dass ihre Teams weniger als die Hälfte von KI-Entscheidungen im Sinne aktueller regulatorischer Auflagen nachverfolgen können.
• 58 Prozent haben KI-Agenten-Deployments wegen mangelnder Erklärbarkeit verzögert oder blockiert – ein deutliches Signal, dass fehlende Transparenz die Skalierung von KI behindert.

Vertrauenskrise zwischen Führungsebene und KI-Verantwortlichen

Die Kluft zwischen C-Suite-Erwartungen und technischer Realität ist in Deutschland besonders ausgeprägt:

• 78 Prozent der deutschen Data Leaders sind überzeugt, dass ihre C-Suite die Genauigkeit von KI-Systemen überschätzt – der höchste Wert im internationalen Vergleich (global: 68 Prozent).
• 82 Prozent sagen, die C-Suite unterschätze die Zeit und Schwierigkeit, die erforderlich ist, um KI-Systeme produktionsreif zu machen.
• 68 Prozent der deutschen Data Leaders erwarten, dass bis Ende 2026 ein CEO aufgrund einer gescheiterten KI-Strategie oder einer KI-induzierten Krise entlassen wird (global: 56 Prozent). 
  Dieser Wert bleibt konstant zu einer vorausgehenden Umfrage von Dataiku unter 100 deutschen CEOs im März 2025 (69 Prozent).

Politischer Einfluss auf Technologieentscheidungen

Externe Faktoren beeinflussen KI-Strategien deutscher Unternehmen stärker als anderswo. So geben 70 Prozent der deutschen Data Leaders zu, dass ihre Wahl des KI-Anbieters stark vom aktuellen politischen oder wirtschaftlichen Klima beeinflusst wird – der höchste Wert weltweit (global: 55 Prozent). Dies zeigt die Unsicherheit, mit der deutsche Entscheider auf regulatorische Rahmenbedingungen und geopolitische Entwicklungen reagieren.

KI-Halluzinationen: Empfehlungen wichtiger als menschliche Expertise

Trotz aller Qualitätsprobleme zeigt sich ein bemerkenswerter Vertrauensvorschuss: So erklärten 76 Prozent der deutschen Data Leaders, dass KI-generierte Geschäftsempfehlungen in ihren Organisationen ernster genommen werden als die der menschlichen Mitarbeitenden – ebenfalls ein globaler Spitzenwert (global: 69 Prozent). Dies verdeutlicht das Risiko: KI-Systemen wird hohes Vertrauen entgegengebracht, während gleichzeitig fundamentale Qualitäts- und Governance-Standards fehlen.

KI-Halluzinationen: Kosten von KI außer Kontrolle

Neben Genauigkeitsproblemen bereiten auch finanzielle Risiken deutschen Data Leaders Sorgen. So sehen 59 Prozent der Befragten unkontrollierte API- und Service-Kosten durch KI-Agenten als „Katastrophe, die darauf wartet, zu passieren“ – der höchste Wert im internationalen Vergleich.

KI-Strategie

KI-Agenten geben bessere Ratschläge als Vorstandsmitglieder

Zur Methodik der Umfrage: Die Umfrage für die Studie für den „Global AI Confessions Report: Data Leaders Edition" wurde vom 20. bis 29. August 2025 von The Harris Poll im Auftrag von Dataiku online durchgeführt. Hierbei wurden Data Leaders in den Vereinigten Staaten, Großbritannien, Frankreich, Deutschland, den Vereinigten Arabischen Emiraten, Japan, Singapur und Südkorea befragt. Insgesamt wurden 812 Online-Interviews durchgeführt (USA = 203, Großbritannien = 102, Deutschland = 103, Frankreich = 101, UAE = 100, Japan = 103, Südkorea = 50, Singapur = 50). Die befragten Data Leaders arbeiten für große Unternehmen mit einem Jahresumsatz von mehr als 1 Milliarde US-Dollar und sind auf Vice-President-, Director-, Managing Director- oder C-Suite-Ebene in daten-, analytics- oder KI-relevanten Funktionen tätig.

Dataiku ist Anbieter der Universal AI-Plattform, die Unternehmen die Kontrolle über ihre KI-Talente, -Prozesse und -Technologien gibt, um die Entwicklung von Analytics, KI-Modellen und Agenten zu ermöglichen. Die Plattform ist agnostisch und lässt sich in Cloud- und Datenplattformen, KI-Dienste und Legacy-Systeme integrieren, sodass sich KI-Initiativen zukunftssicher gestalten lassen.