Einsatz von KI KI-Governance: Diese darf nicht dem Zufall überlassen werden

Anbieter zum Thema

xSuite Group GmbH

Esker Software Entwicklungs-und Vertrieb

Yorizon GmbH & Co. KG

Mit dem Einsatz von KI steigt die unternehmerische Verantwortung: Auswirkungen der KI auf Produkte, Kundenbeziehungen und Mitarbeiter dürfen nicht dem Zufall überlassen werden. Auch Regularien wie der EU AI Act erfordern die Einhaltung der KI-Governance.

Die neue ISO-Norm 42001 für Managementsysteme von KI bietet hierfür einen Rahmen und hilft bei der Gestaltung der KI-Governance. Zusätzlich zu den Chancen, die mit KI verbunden sind, ergeben sich aus dem geschäftlichen KI-Einsatz Risiken und neue ethische und rechtliche Verantwortung. Dies gilt besonders in Hinblick auf ungewollte Auswirkungen der eingesetzten KI. Was sich in harmloseren Fällen nur negativ auf die auswirkt, hat in schwerwiegenden Fällen Auswirkungen auf die Gesellschaft bis hin zu einzelnen Menschenleben. Ein Beispiel hierfür sind Automobilhersteller, die KI für das autonome Fahren einsetzen – und in Grenzsituationen die KI über Leben und Tod anderer Verkehrsteilnehmer entscheidet.

Hinzu kommen unternehmensintern Risiken des falschen Ressourcen-Einsatzes: Ein „KI-Aktionismus“, aus Angst, den Anschluss zu verpassen. Ein Bewusstsein für die Chancen, aber auch Risiken der KI ist unverzichtbar. Doch das Bewusstsein allein genügt nicht. Unternehmen brauchen ein Management-System zur Einhaltung der KI-Governance.

KI-Governance: Wie die ISO 42001 Übersicht schafft

Ein Managementsystem kann als eine dauerhafte organisatorische Maßnahme beschrieben werden: Es werden Vorgaben für das eigene Unternehmen festgelegt, Ergebnisse dauerhaft überwacht und dokumentiert, und bei Bedarf systematisch Anpassungen vorgenommen, um die gesetzten Ziele zu erreichen. Es kann in bestehende Organisationsstrukturen eingefügt werden, und ist damit für das Top-Management ein weiteres Führungsinstrument.

Mit einem speziellen KI-Managementsystem werden Entscheidungsprozesse für alle im Unternehmen transparenter. Durch den systematischen Ansatz werden oberste und mittlere Führungsebenen gezielt entlastet. Es gibt bereits seit Jahrzehnten bewährte Managementsystem-Normen, etwa die bekannte ISO 9001 für Qualitätsmanagement oder die ISO 27001 für das Management von Informationssicherheit. Mit der ISO 42001 gibt es jetzt erstmals eine ISO-Norm, die ein Managementsystem für künstliche Intelligenz beschreibt.

So gelingt der Einstieg in KI-Governance

Wenn Sie bereits Managementsysteme (z.B. ISO 27001) betreiben, können Sie auf den bestehenden Strukturen in Ihrem Unternehmen aufbauen. Insbesondere, wenn das Thema für Sie vollkommen neu ist, empfiehlt es sich aber, spezialisierte Beratung in Anspruch zu nehmen. Ein guter Einstieg ist ein Workshop, der von einem Berater moderiert wird. Wie gewohnt bei ISO-Normen für Managementsysteme, ist auch die ISO 42001 für Unternehmen jeder Größe und aller Branchen anwendbar.

Diesen Nutzen können Unternehmen erwarten

KI-bezogene Risiken werden erkannt und vermindert. Kostspielige Fehlentscheidungen und Reputationsverlust können vermieden werden. Ein Managementsystem für künstliche Intelligenz ist auch ein hervorragender Nachweis für unternehmerische Sorgfalt und hilft bei der Erfüllung gesetzlicher Anforderungen, zum Beispiel aus dem EU AI Act.

Hinzu kommt: Es werden eindeutige Verantwortlichkeiten innerhalb des Unternehmens geschaffen, und ungeeignete KI-Projekte oder KI-Produkte können frühzeitig erkannt werden. Dadurch sind erhebliche Einsparungen an Kosten und Arbeitsaufwand möglich. Aussichtsreiche KI-Projekte oder KI-Produkte werden besser erkannt, und dadurch Marktchancen besser genutzt. Nicht zuletzt schafft ein zertifiziertes Managementsystem für KI-Governance schafft Vertrauen bei Kunden und Investoren.

Mit einem speziellen KI-Managementsystem werden Entscheidungsprozesse für alle im Unternehmen transparenter. Durch den systematischen Ansatz werden die oberen Führungsebenen gezielt entlastet.

Bennet Vogel

Das Nutzen-Aufwand-Verhältnis für KI-Governance

Je größer die KI-Risiken Ihres Unternehmens, desto größer auch der zu erwartende Nutzen eines Managementsystems für Künstliche Intelligenz. Wenn Sie sehr kostspielige oder sogar existenzbedrohliche Risiken haben, lohnt sich der Aufwand für ein Management Ihrer KI-Themen umso mehr. Denn zu einer objektiven Betrachtung gehört auch: Es entsteht neuer Arbeitsaufwand, beispielsweise durch neu entstandene Analyse- und Kontrolltätigkeiten. Bei Zertifizierung des Managementsystems fallen zusätzlich jährliche Gebühren an. 

Die Einführung neuer Software für die Steuerung des Managementsystems ist in aller Regel nicht erforderlich. Wohl aber ist die Position eines KI-Beauftragten oder AI Officers erforderlich. Bei Mittelständlern ist hier im Normalfall keine Vollzeitstelle erforderlich, so dass dies durchaus an einen bestehenden Mitarbeiter übertragen werden kann. Dieser sollte unbedingt ein festes monatliches (Mindest-)Zeitbudget erhalten.

Braucht mein Unternehmen ein Managementsystem für Künstliche Intelligenz?

Ein solches Managementsystem für KI-Governance sollten Sie in Betracht ziehen, wenn für Ihre Branche mindestens einer der folgenden Einsatzbereiche auf Ihr Unternehmen zutrifft:

• Medizin: Einsatz von KI bei der Verarbeitung von Patientendaten und Erstellung von Behandlungsvorschlägen 
• Automobile und Verkehr: Einsatz von KI beim autonomen Fahren
• Finanzdienstleister: Einsatz von KI bei Anlageentscheidungen und Vermögensberatung
• Versicherungen: Einsatz von KI in der Schadensregulierung und bei Vertragsschlüssen
• Medien: Erkennung von Deepfakes, Erstellung von Satire mittels KI, Auswahl von Nachrichten mittels KI
•  Coaching: Einsatz von KI bei wichtigen Lebensentscheidungen
•  KI-Entwickler: Grundsätzlich jedes Unternehmen, dass KI-Systeme entwickelt

Für Unternehmen, die lediglich KI-Plugins für Excel verwenden, oder ihre google-Recherchen durch Chat-GPT ersetzen, wäre die ISO 42001 überdimensioniert und ist nicht zu empfehlen.

Die Einführung eines Managementsystems für künstliche Intelligenz kann einen sehr wertvollen Beitrag zur KI-Governance leisten. Unternehmen jeder Größe und aller Branchen können hiervon profitieren. Die Empfehlung lautet daher: Unternehmen, die KI einsetzen, sollten ernsthaft prüfen, ein Managementsystem für Künstliche Intelligenz einzuführen.