KI-Verordnung AI Act: TÜV-Verband begrüßt Zustimmung des EU-Rats

Anbieter zum Thema

Kendox AG

xSuite Group GmbH

Esker Software Entwicklungs-und Vertrieb

Der risikobasierte Ansatz des AI Acts fördert Sicherheit und Vertrauen insbesondere in hockriskante KI-Systeme. Außerdem muss Allzweck-KI verpflichtende Mindestanforderungen erfüllen. Die TÜV-Organisationen bereiten sich mit einem eigenen TÜV AI.Lab auf die Umsetzung der KI-Verordnung vor.

Der TÜV-Verband begrüßt die Zustimmung des Rats zur europäischen KI-Verordnung (AI Act). Mit dieser schafft die Europäische Union den ersten europäischen Rechtsrahmen für sichere und vertrauenswürdige KI. Vor der Abstimmung war ungewiss, ob der AI Act eine Mehrheit im Rat finden würde, da unter anderem Deutschland und Frankreich Vorbehalte geäußert hatten. „Ein Scheitern der KI-Verordnung hätte zur Folge gehabt, dass KI-Systeme auf absehbare Zeit unreguliert – und damit unsicher – geblieben wären. Die jetzige Einigung zeigt die Entschlossenheit der EU-Mitgliedstaaten, Künstliche Intelligenz sicher zu machen. Mit dem AI Act positioniert sich die EU klar als Vorreiter für sichere und vertrauenswürdige KI“, erklärt Dr. Joachim Bühler, Geschäftsführer des TÜV-Verbands. Er ist überzeugt, dass dies einen entscheidenden Wettbewerbsvorteil bringt.

AI Act bietet risikobasierten Ansatz

Ein zentrales Element des AI Acts ist der risikobasierte Ansatz. Nur KI-Systeme, die als hochriskant eingestuft werden, müssen verpflichtende Sicherheitsanforderungen erfüllen.  Dazu zählen zum Beispiel KI-Systeme in Medizinprodukten oder in kritischen Infrastrukturen. Aus Sicht des TÜV-Verbands ist es wichtig, dass bestimmte hochriskante KI-Systeme zwingend von einer unabhängigen Prüfstelle geprüft werden müssen. So kann sichergestellt werden, dass alle Anforderungen an Transparenz, Datenqualität oder Cybersicherheit eingehalten werden.

Weniger risikobehaftete KI-Systeme fallen dagegen nicht in den Anwendungsbereich der Regulierung.  Bühler berichtet: „Mit dem risikobasierten Ansatz schafft der EU-Gesetzgeber die richtige Balance zwischen Innovationsoffenheit und dem notwendigen Schutzniveau. Der AI Act wird den Erfolg europäischer KI-Anbieter fördern, indem er Sicherheit und Vertrauen als wichtiges Alleinstellungsmerkmal von KI Made in Europe fördert.“

Allzweck-KI-Systeme müssen verpflichtende Anforderungen erfüllen

Ausdrücklich positiv zu bewerten ist ebenfalls, dass künftig auch sogenannte Allzweck-KI, zum Beispiel generative KI-Modelle wie ChatGPT, bestimmte Mindestanforderungen erfüllen müssen. „Insbesondere leistungsstarke KI-Modelle können für Fake News, Deepfakes oder die Manipulation vulnerabler Gruppen genutzt werden. Und bergen damit große Risiken für Sicherheit und Demokratie. Mit der Regulierung dieser Systeme geht der EU-Gesetzgeber entschlossen gegen diese Bedrohungen unserer Demokratie vor, was im Superwahljahr 2024 mit Blick auf mögliche Wahlkampfbeeinflussung umso wichtiger ist“, erklärt Bühler.

TÜV-Verband fordert einheitliche Umsetzung und Leitfäden

Nun gilt es, die Weichen so zu stellen, dass der AI Act auf nationaler und europäischer Ebene erfolgreich umgesetzt werden kann. Es ist erforderlich, die Anforderungen des AI Acts zeitnah durch harmonisierte europäische Normen zu konkretisieren, um Rechtssicherheit für KI-Anbieter, Prüforganisationen und Behörden zu schaffen. Darüber hinaus müssen Rechtsunsicherheiten bei der genauen Klassifizierung von Hochrisiko-KI-Systemen beseitigt werden. Der TÜV-Verband drängt darauf, dass die EU-Kommission zeitnah klare Umsetzungsleitfäden mit konkreten Beispielen veröffentlicht, um möglichen Fehleinschätzungen durch die Anbieter vorzubeugen. 

Prüfbereitschaft aller Akteure im KI-Ökosystem

Der Erfolg bei der Umsetzung des AI Acts wird wesentlich von der rechtzeitigen und vollständigen Prüfbereitschaft aller Akteure im KI-Ökosystem abhängen. „Anbieter von KI-Systemen sind aufgefordert, sich bereits heute mit den Anforderungen, die der AI Act mit sich bringt, auseinanderzusetzen“, sagt Bühler. Viele Anforderungen können die Anbieter in bestehende Qualitäts- und Risikomanagementsysteme integrieren. Der TÜV-Verband begrüßt dabei auch die Verpflichtung der Mitgliedstaaten, entsprechende Reallabore (sogenannte „Regulatory Sandboxes“) einzurichten, in denen Anbieter ihre KI-Systeme entwicklungsbegleitend testen können. Für solche KI-Qualitätszentren, die auch KMU und Start-ups zugutekommen sollen, setzt sich der TÜV-Verband seit mehreren Jahren mit den AI Quality & Testing Hubs ein.

TÜV-Organisationen bereiten sich auf AI Act vor

Die TÜV-Prüforganisationen bereiten sich intensiv auf den Aufbau von entsprechendem Know-how für die Prüfung vor. Bereits Anfang 2021 hat der TÜV-Verband das TÜV AI.Lab gegründet, um regulatorische und technische Anforderungen an KI zu begleiten. Und außerdem die Entwicklung von Prüfkriterien voranzutreiben. Das TÜV AI.Lab engagiert sich dabei unter anderem als Partner in der Nationalen Initiative für Künstliche Intelligenz und Datenökonomie (MISSION KI) des Bundesministeriums für Digitales und Verkehr und der Deutschen Akademie der Technikwissenschaften. 

Die EU-Institutionen haben sich im Dezember 2023 auf einen politischen Kompromisstext zum AI Act geeinigt. Mit der Ratsabstimmung haben die EU-Mitgliedsstaaten diesem Kompromiss nun offiziell zugestimmt. Nun muss noch das EU-Parlament, voraussichtlich im April, über den Text abstimmen. Anschließend wird der Text im Amtsblatt der EU veröffentlicht und tritt damit offiziell in Kraft. Nach einer Übergangsfrist von zwei Jahren sind die meisten Anforderungen ab voraussichtlich Mitte 2026 verpflichtend anzuwenden. (sg)

Lesen Sie auch: Künstliche Intelligenz: Wie die Technologie die Spielregeln neu schreiben wird