Mobile-Menu
  DB Podcast

Regeln für künstliche Intelligenz

EU AI Act: Der Countdown läuft – das muss die IT jetzt umsetzen

< zurück

Seite: 2/4

Anbieter zum Thema

d.velop AG
Esker Software Entwicklungs-und Vertrieb
Yorizon GmbH & Co. KG

Die Hochrisiko-Deadline: Was passiert am 2. August 2026?

Falls der Trilog zwischen zwischen EU-Parlament, -Rat und -Kommission das Digital-Omnibus-Paket nicht rechtzeitig verabschiedet, dann greifen am 2. August 2026 die vollen Pflichten für eigenständige Hochrisiko-KI-Systeme nach Anhang III des EU AI Act. Das betrifft KI-Systeme in acht definierten Einsatzbereichen, die ein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte darstellen.

Das sind die zentralen Pflichten für Anbieter (Art. 16) und Betreiber (Art. 26):

  • Risikomanagementsystem (Art. 9): Unternehmen müssen ein kontinuierliches System zur Identifikation, Bewertung und Minimierung von Risiken über den gesamten Lebenszyklus ihrer KI-Systeme betreiben – von der Entwicklung über den Betrieb bis zur Stilllegung. Restrisiken müssen dokumentiert, Tests unter realen Bedingungen durchgeführt werden.
  • Daten-Governance (Art. 10): Trainings-, Validierungs- und Testdaten müssen auf Qualität, Repräsentativität und Verzerrungsfreiheit geprüft werden. Die Dokumentation der Datenerhebung, -verarbeitung und -löschung ist Pflicht.
  • Technische Dokumentation (Art. 11): Detaillierte Beschreibungen zu Zweck, Entwicklung, Metriken für Genauigkeit, Robustheit und Cybersicherheit sowie menschliche Aufsichtsmechanismen.
  • Automatische Protokollierung (Art. 12): KI-Systeme müssen ihre Aktivitäten automatisch aufzeichnen, um Entscheidungen nachvollziehbar zu machen.
  • Menschliche Aufsicht (Art. 14): Systeme müssen so gestaltet sein, dass Menschen Entscheidungen überwachen, korrigieren oder das System deaktivieren können.
  • Konformitätsbewertung (Art. 43): Vor Inverkehrbringung oder Inbetriebnahme muss eine formale Prüfung erfolgen. Für die meisten Systeme reicht eine interne Bewertung. Für biometrische Fernidentifizierung ist eine externe Prüfung durch eine notifizierte Stelle vorgeschrieben.
  • CE-Kennzeichnung und Registrierung (Art. 48, 49): Konforme Systeme erhalten die CE-Kennzeichnung und müssen in der EU-Datenbank registriert werden. Ohne Registrierung darf ein System nicht eingesetzt werden.

Die Hochrisiko-Bereiche nach Anhang III des EU AI Act

Der AI Act stuft keine Unternehmen ein, sondern den konkreten Einsatzzweck eines KI-Systems.

 Hochrisiko-Bereiche nach Anhang III des EU AI Act
EinsatzbereichBeispiele
BiometrieFernidentifikation, Emotionserkennung
Kritische InfrastrukturKI-Steuerung in Energie-, Wasser-, Verkehrsnetzen
Bildung & AusbildungAutomatisierte Prüfungsbewertung, Zugangsentscheidungen
Beschäftigung & HRKI-gestützte Bewerberauswahl, Leistungsbewertung, Beförderung
Zugang zu DienstleistungenKreditwürdigkeitsprüfung, Versicherungs-Scoring
StrafverfolgungRisikobewertung von Personen
Migration & GrenzschutzRisikobewertung, Dokumentenprüfung
Justiz & DemokratieEntscheidungsunterstützung für Gerichte, Wahlbeeinflussung

Viele Unternehmen unterschätzen die Reichweite. Ein KI-basiertes Bewerbermanagement-Tool oder ein automatisiertes Kreditscoring-Modell kann bereits in die Hochrisiko-Kategorie fallen – auch wenn es von einem Drittanbieter stammt.

Jetzt Newsletter abonnieren

Verpassen Sie nicht unsere besten Inhalte

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte