Anbieter zum Thema

FIS Informationssysteme und Consulting GmbH

Esker Software Entwicklungs-und Vertrieb

Yorizon GmbH & Co. KG

KI-Governance: Nicht nur auf einen KI-Anbieter verlassen

Eine der wichtigsten Lehren aus dem Fall Fable 5 lautet: Unternehmen sollten ihre KI-Strategie nicht auf einen einzelnen LLM-Hersteller, ein einzelnes Modell oder eine einzige externe Plattform stützen.Das bedeutet nicht, dass Unternehmen auf leistungsfähige Modelle von Anthropic, OpenAI, Google, Mistral, Aleph Alpha oder anderen Anbietern verzichten sollten. Im Gegenteil: Viele dieser Systeme sind technologisch beeindruckend und für zahlreiche Anwendungsfälle sinnvoll. Problematisch wird es erst, wenn aus Nutzung Abhängigkeit wird — und aus Abhängigkeit ein nicht kontrolliertes Betriebsrisiko.

Der Fall Fable 5 zeigt, wie schnell sich die Lage ändern kann. Ein Modell kann technisch hervorragend sein, breit genutzt werden und dennoch plötzlich nicht mehr verfügbar sein, weil politische, regulatorische oder sicherheitsrelevante Entscheidungen außerhalb des Unternehmens getroffen werden. Für betroffene Organisationen ist dann nicht entscheidend, ob der Grund nachvollziehbar ist. Entscheidend ist, ob kritische Prozesse weiterlaufen können.

Die entscheidende Frage lautet daher nicht nur: Welches Modell liefert heute die beste Antwort? Sie lautet: Welche KI-Funktionen müssen auch dann verfügbar bleiben, wenn ein Anbieter, ein Staat oder eine Regulierung den Zugang verändert?

Predrag Gasic

Bei KI-Architekturen modellunabhängiger werden

Deshalb sollten Unternehmen KI-Architekturen künftig modellunabhängiger denken. Wo KI geschäftskritisch wird, braucht es austauschbare Modelle, klare Fallback-Szenarien, kontrollierbare Betriebswege und eine saubere Bewertung externer Abhängigkeiten. In bestimmten Bereichen kann es sinnvoll sein, eigene oder kontrollierte LLM-Instanzen aufzubauen — etwa über europäische Anbieter, private Deployments oder Open-Source-Modelle, die innerhalb der eigenen Infrastruktur betrieben werden.

Nicht jedes Unternehmen muss ein eigenes Foundation Model entwickeln; das wäre für die meisten weder wirtschaftlich noch technisch sinnvoll. Aber jedes Unternehmen sollte wissen, welche KI-Funktionen kritisch sind, welche Anbieterabhängigkeiten bestehen und welche Alternativen existieren, wenn ein Modell morgen nicht mehr verfügbar ist.

Die entscheidende Frage lautet daher nicht nur: Welches Modell liefert heute die beste Antwort? Sie lautet vielmehr: Welche KI-Funktionen müssen auch dann verfügbar bleiben, wenn ein Anbieter, ein Staat oder eine Regulierung den Zugang verändert? Wer diese Frage nicht beantworten kann, betreibt keine robuste KI-Strategie. Er verlässt sich auf ein System, dessen Stabilität er nicht kontrolliert.

ISO 42001 und EU AI Act: Rahmen für KI-Governance

Es fehlt nicht an Rahmenwerken. Die neue Managementsystem-Norm ISO/IEC 42001 liefert eine bewährte Struktur, um KI-Einsatz organisatorisch zu steuern, Verantwortung zuzuordnen und Sorgfalt nachzuweisen. Der EU AI Act setzt den verbindlichen regulatorischen Rahmen. Beides ist richtig und notwendig — aber beides ist auf Ordnung und Nachweisbarkeit ausgelegt, nicht auf das tagesaktuelle, operative Lagebild, das ein Vorfall wie Fable 5 verlangt.

Eine Norm beschreibt, wie ein Managementsystem aussehen soll. Sie beantwortet nicht in Echtzeit die Frage, welche konkreten Systeme gerade laufen, welche Risiken sich verschoben haben und welche Nachweise fehlen, wenn morgen ein Auditor — oder ein Ausfall — vor der Tür steht. Zwischen dem regulatorischen Rahmen und der gelebten Praxis klafft eine operative Lücke: die Ebene, auf der KI-Nutzung nicht nur dokumentiert, sondern tatsächlich geführt wird.

Von der Dokumentation zur Führbarkeit

Hier entsteht der Bedarf nach einer eigenen Governance-Ebene — einer, die KI-Systeme, Abhängigkeiten, Risiken, Verantwortlichkeiten, Evidenz und Handlungsfähigkeit an einer Stelle sichtbar macht. Nicht als weiteres KI-Modell, sondern als Steuerungs- und Führungsschicht oberhalb der KI-Nutzung. 

Garion AI, eine Entwicklung von Prega Learning Systems, ist ein Beispiel für diesen Ansatz. Die Anwendung versteht sich ausdrücklich nicht als zusätzliches Modell, sondern als operative Governance- und Readiness-Ebene: Sie erfasst, welche KI-Systeme ein Unternehmen einsetzt, bewertet Risiken und Abhängigkeiten, hält Nachweise prüffähig vor und ordnet Verantwortlichkeiten klar zu. Entscheidend ist dabei weniger das einzelne Produkt als das Prinzip dahinter: Wer ein belastbares Lagebild über seine KI-Landschaft hat, kann auf einen Ausfall wie Fable 5 mit einer Entscheidung reagieren — und nicht mit einer Inventur, die erst in der Krise beginnt.

Nicht das stärkste Large Language Model gewinnt

Der Wettlauf um das leistungsfähigste KI-Modell hat die Aufmerksamkeit der vergangenen Jahre bestimmt. Der Fall Fable 5 verschiebt den Maßstab. In einer Welt, in der das stärkste Modell über Nacht abgeschaltet werden kann, entscheidet nicht mehr die rohe Leistungsfähigkeit über die Wettbewerbsfähigkeit eines Unternehmens — sondern die Führbarkeit der eigenen KI-Architektur: die Fähigkeit, Systeme zu kennen, Risiken zu bewerten, Nachweise zu führen, Verantwortung zuzuordnen und im Ernstfall handlungsfähig zu bleiben.

KI-Governance darf deshalb nicht länger dem Zufall überlassen werden — und auch nicht allein der Regulierung. Sie wird zur Führungsaufgabe. Wer KI einsetzt, sollte sie nicht nur erlauben und dokumentieren, sondern operativ führen können. Der Warnschuss ist gefallen. Die Frage ist nur, wer ihn als solchen erkennt.