DB Podcast

OpenAI-Vorfall

KI-Modelle: Verfügungsgewalt wird zur Sicherheitsfrage

< zurück

Seite: 2/3

Anbieter zum Thema

Die Antwort auf Souveränität kam nicht aus Europa

Das Modell, mit dem Hugging Face die Kontrolle zurückgewann, war GLM 5.2. Ein offenes Modell des Pekinger Anbieters Z.ai, Mitte Juni unter MIT-Lizenz veröffentlicht, rund 744 Milliarden Parameter in einer Mixture-of-Experts-Architektur, eine Million Token Kontext. Diese eine Tatsache enthält die gesamte europäische Strategiediskussion in komprimierter Form.

Das amerikanische CAISI hat das Modell unmittelbar bewertet und kam zu einem doppelten Befund. Es war zum Zeitpunkt der Veröffentlichung wahrscheinlich das leistungsfähigste offene Modell, seine Cyberfähigkeiten lagen auf dem Niveau eines aktuellen westlichen Spitzenmodells. Und seine Schutzmechanismen lassen Unterstützung bei der Entwicklung agentischer Exploits zu. Dasselbe Modell, das eine Verteidigung ermöglicht hat, senkt die Einstiegshürde für Angriffe. Das ist keine Ausnahme, sondern die Regel dieser Technologie. Wer Dual Use für ein Compliance-Thema hält, hat den Kern nicht erfasst.

Dazu kommt der zeitliche Kontext, den europäische Vorstände sich merken sollten. Wenige Tage vor dieser Veröffentlichung wurde der Zugang zu den Spitzenmodellen eines führenden US-Anbieters für Nutzer außerhalb der Vereinigten Staaten ausgesetzt, um Exportkontrollauflagen des US-Handelsministeriums zu entsprechen. Die Auflagen wurden Ende Juni aufgehoben, der Zugang Anfang Juli wiederhergestellt. Der Vorgang dauerte rund drei Wochen. Er ist trotzdem der wichtigste Datenpunkt des Halbjahres. Leistungsfähige KI-Modelle und der Zugang zu ihnen ist ein exportkontrollfähiges Gut geworden. Er kann politisch entzogen werden, ohne dass ein einziger Vertrag verletzt wird.

Für ein europäisches Industrieunternehmen ergibt sich daraus eine Aufgabe, die weder Einkauf noch IT allein lösen kann. Ein Modellportfolio, das nach Verfügungssicherheit strukturiert ist und nicht nach Leistungsranking. Mindestens eine Klasse von Fähigkeiten muss unabhängig von externer Freigabe betreibbar sein, mit vollem Bewusstsein dafür, dass Herkunft und Prüfbarkeit dieser KI-Modelle eigene Fragen aufwerfen. Diese Diskussion ist unbequem. Sie lässt sich aber nicht dadurch vermeiden, dass man sie verschiebt. Souveränität ist kein Wert, den man bekennt. Es ist eine Kapazität, die man vorhält oder im Ernstfall nicht hat.

KI-modelle: fünf unterschätzte Risiken

Blockade im Ernstfall: Ihr Incident-Response-Prozess enthält vermutlich einen Schritt, der auf ein Modell zugreift, das die Analyse von Angriffsartefakten verweigert. Niemand hat das je getestet.

Datenabfluss durch Forensik: Wer Angriffsprotokolle an eine externe Schnittstelle gibt, exportiert kompromittierte Zugangsdaten und interne Topologie in ein fremdes System, mitten im laufenden Vorfall.


Ein-Kontroll-Architekturen bei Agenten. Bei Hugging Face war der Netzwerkausgang auf einen einzigen Proxy beschränkt. Eine Kontrolle, eine Schwachstelle, voller Internetzugang. Strukturell dasselbe Muster wie ein flaches Netz hinter einer Firewall.


Die Behebungslücke. Von tausenden validierten Open-Source-Schwachstellen der vergangenen Monate wurden nach Branchenangaben weniger als fünf Prozent tatsächlich gepatcht. KI hat das Finden billig gemacht. Das Beheben ist es nicht geworden.


Meldepflicht ohne Meldeweg: NIS2 verlangt die Frühwarnung binnen 24 Stunden. Stammt der Vorfall aus der Testumgebung eines Dritten, mit dem keine Vertragsbeziehung besteht, existiert dieser Meldeweg schlicht nicht.

Zwei neue Allianzen und was die Mitglieder darüber verraten

Am 25. Juni gründete die Linux Foundation die Initiative Akrites zur koordinierten Behebung von Schwachstellen in kritischer Open-Source-Software. Gründungsmitglieder waren unter anderem AWS, Anthropic, Google, OpenAI, Microsoft, GitHub, NVIDIA, IBM, Red Hat, Cisco, JPMorganChase, Citi, Ericsson, Vodafone und Zscaler. Am 27. Juli 2026 gründete Nvidia die Open Secure AI Alliance. Unter den rund drei Dutzend genannten Gründungspartnern finden sich Microsoft, Cisco, IBM, Red Hat, HPE, Dell, CrowdStrike, Palo Alto Networks, Cloudflare, Palantir, Databricks, Snowflake, Salesforce, ServiceNow, Adobe, Capital One, DoorDash, Hugging Face, NAVER, SK Telecom, die Linux Foundation, SAP und Siemens.

Innerhalb von fünf Wochen sind damit zwei überlappende, aber unterschiedlich besetzte Koalitionen entstanden. Die erste vereint die geschlossenen Spitzenlabore mit den Hyperscalern. Die zweite versammelt die Anbieter offener KI-Modelle, die Sicherheitsindustrie, die Infrastrukturhersteller und, das ist neu, die Anwenderindustrie. Die Allianz formuliert eine ausdrückliche Position gegenüber Regulierern. Offene Modelle, Harnesses und Sicherheitswerkzeuge sollten als defensive Güter behandelt werden, nicht als Risiken. Pauschale Beschränkungen offener Spitzensysteme würden die Verteidigungsfähigkeit schwächen und Abhängigkeit bei wenigen geschlossenen Anbietern konzentrieren.

Das ist eine legitime Position mit starken Argumenten. Es ist zugleich Industriepolitik. Wer definiert, ob Sicherheit eine Eigenschaft des Modells oder des gesamten Stacks ist, definiert mit, wer im Schadensfall haftet. Diese Grenze wird derzeit nicht in Brüssel, Berlin oder Washington gezogen, sondern in Konsortialpapieren. In den zugehörigen Gremien sitzen zwei europäische Industriekonzerne unter rund drei Dutzend Gründungspartnern. Die Mitgliedschaft in solchen Gremien ist daher kein Marketingposten, sondern Zugang zur Normsetzung. Wer die Standards, Formate und Prüfverfahren des kommenden Jahrzehnts nicht mitschreibt, wird sie implementieren, zu Bedingungen, die andere gesetzt haben. Die Sicherheitsnorm für KI entsteht schneller als ihre Regulierung.

Jetzt Newsletter abonnieren

Verpassen Sie nicht unsere besten Inhalte

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung