Regulierung von KI KI-Modelle: TÜV-Verband fordert unabhängige Prüfung

Anbieter zum Thema

TÜV-Verband e.V.

CADFEM Germany GmbH

Esker Software Entwicklungs-und Vertrieb

Yorizon GmbH & Co. KG

Der TÜV-Verband fordert, die Sicherheit leistungsstarker KI-Modelle vor der Markteinführung von unabhängigen Stellen zu prüfen. Außerdem sollten internationale Abkommen in verbindliche Sicherheitsvorgaben münden. Zudem sei es nötig, die Marktüberwachung in der EU zu stärken.

Der TÜV-Verband hat verpflichtende Prüfungen für besonders leistungsstarke KI-Modelle („Frontier Models“) gefordert, bevor diese auf den Markt kommen dürfen. Die Prüfungen könnten von Behörden oder von unabhängigen Prüforganisationen in öffentlichem Auftrag durchgeführt werden. Dr. Dirk Stenkamp, Präsident des TÜV-Verbands, betont: „Die Sicherheitsvorfälle der letzten Zeit haben gezeigt, welche Gefahren von neuen KI-Modellen ausgehen. Wir brauchen vor der Markteinführung ein verpflichtendes Prüfregime für besonders leistungsstarke KI-Modelle.“

In den vergangenen Monaten hatten sich Vorfälle gehäuft, bei denen sich KI-Agenten selbständig in Online-Plattformen gehackt haben oder unkontrolliert aus ihren Testumgebungen ausgebrochen sind. „Im Idealfall verständigt sich die Weltgemeinschaft auf ein gemeinsames Vorgehen, wie sie die Risiken neuer KI-Modelle beherrschen will“, erklärt Dirk Stenkamp. Notwendig seien internationale Absprachen, die in verbindliche Vorgaben überführt werden. „Die von den Tech-Konzernen propagierte Selbstkontrolle und Selbstregulierung reicht nicht aus. Angesichts des hohen Tempos der KI-Entwicklung muss die Politik jetzt schnell und entschlossen handeln“, so Stenkamp.

AI Act gibt Vorgaben für KI-Modelle

In der Europäischen Union müssten die bereits vorhandenen Instrumente der Marktaufsicht gestärkt werden. Laut AI Act müssen neue KI-Modelle mit systemischen Risiken zahlreiche Vorgaben unter anderem in Bezug auf Cybersicherheit, Trainingsdaten, Modell-Evaluation und Meldepflichten erfüllen. Eine verpflichtende externe Prüfung vor der Marktzulassung neuer KI-Modelle gibt es allerdings nicht. „Der bestehende Rahmen muss sich jetzt in der Praxis bewähren. Anforderungen müssen bei Bedarf verschärft, einheitliche Prüfverfahren entwickelt und eigene Prüfkompetenzen aufgebaut werden“, sagt Dirk Stenkamp. 

„Das europäische ‚AI Office‘ braucht dringend zusätzliche finanzielle und personelle Ressourcen, um die Sicherheit der neuen Frontier Modelle substanziell bewerten und die Einhaltung der Vorgaben durchsetzen zu können.“ Gleichzeitig sollte das AI Safety and Security Institute (AISI) in Berlin zügig seine Arbeit aufnehmen, um Auswirkungen auf die nationale Sicherheit selbst kompetent einschätzen zu können. „Die Sicherheit der fortschrittlichen KI-Modelle kann kein Anbieter allein stemmen. Es braucht das bewährte Zusammenspiel aus Selbstverantwortung der Entwickler, dem Know-how externer Prüfer und behördlicher Aufsicht“, ist Stenkamp überzeugt.

Rund um die Sicherheit von KI-Systemen entstehe gerade weltweit ein neuer Milliardenmarkt. Stenkamp: „Wir müssen ein Ökosystem aus öffentlichen KI-Instituten, etablierten Prüforganisationen und innovativen Startups schaffen. Europa hat hier beste Voraussetzungen, eine führende Rolle einzunehmen.“ Die TÜV-Unternehmen haben bereits früh in den Aufbau eigener KI-Kompetenzen investiert und mit dem TÜV AI.Lab ein eigenes Joint Venture gegründet. Das TÜV AI.Lab entwickelt einheitliche Prüfverfahren und Prüfmethoden für KI-Systeme.

EU AI Act darf nicht weiter ausgehöhlt werden

Neben den großen Allzweck-KI-Modellen wie ChatGPT, Claude oder Gemini regelt der EU AI Act insbesondere, unter welchen Bedingungen Produkte und Anwendungen mit integrierter KI in der EU auf den Markt gebracht werden dürfen. „In naher Zukunft werden auch die leistungsfähigsten KI-Modelle Eingang in europäische Produkte finden“, sagt Stenkamp. „Wir können die Sicherheit dieser Produkte nur mit einheitlichen KI-Regeln gewährleisten." In diesem Zusammenhang erteilt der TÜV-Verband Forderungen eine klare Absage, den europäischen AI Act weiter auszuhöhlen.

Industrievertreter fordern, dass nach Maschinen auch Medizinprodukte aus dem direkten Anwendungsbereich des AI Acts gestrichen und die KI-Anforderungen in sektoralen Einzelgesetzen geregelt werden. „Der KI-Omnibus hat gezeigt, dass wir hier in die falsche Richtung steuern“, sagt Stenkamp. „Der AI Act macht klare Vorgaben zur Sicherheit von Hochrisiko-KI-Systemen in Produkten. Der Sektor-Exit für Maschinen führt zu einer regulatorischen Fragmentierung mit unterschiedlichen Anforderungen, Verfahren und Fristen. Das Ergebnis ist Rechtsunsicherheit und mehr statt weniger bürokratischer Aufwand für Unternehmen.“ Das dürfe sich bei Medizinprodukten nicht wiederholen.

Der TÜV-Verband e.V. vertritt die politischen Interessen der TÜV-Prüforganisationen und fördert den fachlichen Austausch unserer Mitglieder. Der Verband setzt sich für die technische und digitale Sicherheit sowie die Nachhaltigkeit von Fahrzeugen, Produkten, Anlagen und Dienstleistungen ein. Grundlage dafür sind allgemeingültige Standards, unabhängige Prüfungen und qualifizierte Weiterbildung. Die TÜV-Organisationen haben kürzlich eine Zertifizierung für vertrauenswürdige KI-Systeme von Unternehmen auf den Weg gebracht.

EU AI Act

Industrielle KI: TÜV-Verband fordert einheitliche Regularien