EU-Aktionsplan für KI KI-Verordnung: Warum ROT-Daten ein Problem für die KI-Sandbox sind

Anbieter zum Thema

Veeam Software Group GmbH

Kendox AG

Esker Software Entwicklungs-und Vertrieb

Yorizon GmbH & Co. KG

Es ist eine geschäftige Zeit für CISOs in Unternehmen in der EU. Sie müssen sich nicht nur mit den bevorstehenden Fristen der EU-KI-Verordnung auseinandersetzen, sondern sich nun auch mit den neuen Ressourcen befassen, die im EU-Aktionsplan für Cybersicherheit und künstliche Intelligenz angekündigt wurden.

Dass derzeit die Aufmerksamkeit der CISOs auf die KI-Sicherheit gerichtet ist, ist an sich keine schlechte Sache, aber man könnte argumentieren, dass die Teams daran arbeiten, die falschen Ziele zu erreichen. Man ist davon ausgegangen, dass die KI eines Unternehmens sicher ist, wenn sie die Compliance-Standards erfüllt und in diesen neuen Test-Sandboxes gute Leistungen erbringt. Doch wie bereits bei früheren Cybersicherheits-Vorschriften gesehen, ist die Einhaltung offizieller Vorschriften wie der KI-Verordnung nicht gleichbedeutend mit betrieblicher Sicherheit – weit gefehlt.

In diesem Fall sind die Daten das fehlende Glied, das sowohl Behörden als auch Unternehmen bisher übersehen haben und das, obwohl es ihnen direkt vor Augen liegt. Denn die Einhaltung von Compliance-Standards und gute Leistungen in einer sicheren KI-Testumgebung dienen lediglich dazu, technisch sichere Modelle zu erstellen. Und sobald man diese Modelle mit redundanten, obsoleten und trivialen (ROT) Daten füttert, sind all diese Tests zunichte gemacht.

KI-Verordnung: Viel Trubel und wenig Substanz

Die letzten Wochen waren für die KI-Verordnung der EU besonders turbulent. Zunächst wurden die Fristen des EU-KI-Gesetzes angepasst. Entscheidend ist, dass die wichtigste Frist für die Einhaltung der Vorschriften bei KI, die in risikoreichen Umgebungen eingesetzt wird, von August 2026 auf Dezember 2027 verschoben wurde, vor allem deshalb, weil die branchenweiten technischen Standards, die als Maßstab für die Einhaltung der Vorschriften dienen, noch nicht vorliegen.

Und nur wenige Wochen nach der Bekanntgabe dieser Verschiebung veröffentlichte die EU den EU-Aktionsplan für Cybersicherheit und künstliche Intelligenz, unter anderem um diese Lücke bei der Konformitätsprüfung zu schließen. Anstatt neue rechtliche Auflagen einzuführen, verspricht der Plan den Zugang zu neuen sicheren Testplattformen, Leitfäden und Tools. Diese dienen der Bewertung fortschrittlicher KI vor ihrer Markteinführung und sollen gewährleisten, dass neue Modelle sicher und in Übereinstimmung mit EU-Vorschriften wie der besagten KI-Verordnung und der NIS2-Richtlinie eingesetzt werden.

Risiken durch unsachgemäße KI-Nutzung

All dies wird zwar zur Entwicklung sicherer KI-Modelle beitragen, ist jedoch nur ein Teil des Puzzles. Sicherheitsteams können und werden unzählige Stunden damit verbringen, Code zu isolieren und die notwendigen Nachweise zu sammeln, um wertvolle Compliance-Zertifikate zu erhalten. Dabei laufen sie jedoch Gefahr, die andere Seite der KI aus den Augen zu verlieren. Man kann ein Tool entwickeln, das von Grund auf sicher und konform ist, doch bei unsachgemäßer Nutzung kann es dennoch gegen Compliance-Vorgaben verstoßen und Chaos verursachen.

Statistisch kommen auf einen Mitarbeiter durchschnittlich 82 nicht-menschliche Identitäten und autonome Agenten in modernen Unternehmensumgebungen. Bei jedem Sicherheitsverantwortlichen sollten bei dieser Zahl die Alarmglocken läuten. Das operative Risiko hat sich mittlerweile weit über den menschlichen Missbrauch hinaus auf Fehler in Maschinen-Geschwindigkeit ausgeweitet. Würde ein menschlicher Nutzer einen Fehler machen, würde dieser in der Regel entdeckt und gemeldet, bevor etwas Katastrophales passieren könnte; bei autonomen Modellen hingegen können fehlerhafte Daten selbst das sicherste Modell unbemerkt beeinträchtigen und die Ergebnisse verfälschen, ohne die üblichen Alarme auszulösen. Und das alles auf technisch konformen Systemen.

KI-Verordnung: Compliance ist nicht gleich Sicherheit

Da sich die gesamte Aufmerksamkeit auf die KI-Modelle selbst konzentriert, sind die Unternehmensdaten etwas aus dem Blickfeld geraten. Und in den Diskussionen, die tatsächlich stattfanden, ging es größtenteils um die Sicherheit der Daten und weniger um deren Qualität, was das Problem noch verschärft hat.

Heute liegen fast 80 Prozent an Unternehmensdaten in unstrukturierten Formaten vor, die mit ROT-Dateien überfüllt sind. Es ist das Ergebnis jahrzehntelanger Anhäufung in veralteten Cloud-Speichern und wirkt wie ein langsames Gift auf ein KI-Modell. Ganz gleich, wie technisch sicher es ist und wie gut es in den vorgeschlagenen EU-Sandboxen abgeschnitten haben mag: Die Einspeisung von mit ROT-Dateien kontaminierten unstrukturierten Daten in ein Modell wird verheerende Folgen haben. Es wird Halluzinationen entwickeln, unsinnige Entscheidungen treffen, verzerrte Analysen verwenden und gegen Compliance-Vorgaben verstoßen, wenn es mit veralteten Daten und doppelten Datensätzen arbeitet.

Und es gibt weitere Nachteile. Die Verarbeitung all dieser nutzlosen Daten, von denen ein Großteil zudem doppelt vorliegt, wirkt wie eine unsichtbare Belastung für Unternehmensbudgets: Teure GPU-Rechenzyklen werden dafür verschwendet, und kostspielige Cloud-Infrastruktur wird für die Indizierung von Daten eingesetzt, die keinen materiellen Wert und keinen ROI haben. Allein in diesem Jahr beliefen sich die KI-Investitionen namhafter Technologieunternehmen auf über 650 Milliarden US-Dollar und keiner weiß, wie hoch die Ausgaben in einem weiteren Jahr sein könnten. Während die EU-Vorschriften großen Wert auf die Sicherheitskosten der KI legen, haben sie bislang die Kosten für die Daten, die hinter dieser KI stehen, nicht berücksichtigt.