Umfrage von Hiscox KI-Nutzung: Entscheider unterschätzen rechtliche Risiken

Anbieter zum Thema

Hiscox AG

CADFEM Germany GmbH

d.velop AG

Esker Software Entwicklungs-und Vertrieb

Laut einer neuen Umfrage von Hiscox nutzen Entscheider bei Dienstleistern künstliche Intelligenz und treiben Innovation voran, unterschätzen aber rechtliche Risiken. Bei der KI-Nutzung bestehen zudem Wissenslücken hinsichtlich der Regulierung und Absicherung.

Künstliche Intelligenz ist in vielen deutschen Dienstleistungsunternehmen längst fester Bestandteil der Strategie – vorangetrieben vor allem durch die Entscheider im KI-Bereich. Eine aktuelle Umfrage von Hiscox zur KI-Nutzung in deutschen Dienstleistungsunternehmen zeigt: Die Führungsebene investiert aktiv in KI und sieht großes Potenzial. Gleichzeitig besteht jedoch noch erheblicher Nachholbedarf beim Verständnis rechtlicher Anforderungen und beim Schutz vor potenziellen Risiken.

Wer entscheidet über KI-Nutzung – und wie?

Die Befragung richtete sich unter anderem an die Personen, die in Dienstleistungsunternehmen aktiv über den Einsatz von künstlicher Intelligenz entscheiden – also KI-Entscheider. Sie kommen aus Unternehmen aller Größen – vom Solo-Selbstständigen bis zum Großkonzern – und sind meist in leitenden Funktionen wie IT, Strategie, Innovation oder Geschäftsführung tätig.

Was sie eint: Sie treiben KI-Projekte aktiv voran, investieren gezielt in neue Technologien und sehen in KI einen zentralen Hebel für Effizienz, Qualität und Wettbewerbsfähigkeit. 76 Prozent setzen KI bereits ein, 81 Prozent erwarten dadurch einen positiven Effekt auf die Wettbewerbsfähigkeit. Besonders häufig wird KI in der Datenanalyse (49 Prozent), im Kundenservice (47 Prozent) und im Personalwesen (28 Prozent) eingesetzt.

Reifegrad hoch – doch Know-how-Level niedrig

Den „KI-Reifegrad“ des eigenen Unternehmens schätzen die Entscheider bei der Umfrage auf einer Skala von 1 („kein Einsatz“) bis 10 („voll integriert“) im Median ziemlich optimistisch auf 6 ein. Trotz der intensiven KI-Nutzung und strategischen Bedeutung zeigt die Umfrage auch: Das Wissen über rechtliche und sicherheitsrelevante Aspekte bleibt hinter dem Reifegrad deutlich zurück. 

Nur 43 Prozent der Unternehmen, die KI einsetzen, haben ihre Mitarbeiter zur sicheren KI-Nutzung geschult. 53 Prozent der Entscheiderinnen und Entscheider geben zu, dass es im Unternehmen noch an grundlegendem Know-how fehlt. Besonders alarmierend: Selbst unter den Entscheidenden selbst ist das Wissen über regulatorische Anforderungen wie den AI Act oft lückenhaft: 42 Prozent haben viele Unsicherheiten, was gesetzliche Vorgaben betrifft – obwohl diese bereits heute konkrete Pflichten mit sich bringen.

„Insbesondere bei Entscheiderinnen und Entscheidern ist KI schon voll in der täglichen Praxis angekommen. Jedoch sind sie jetzt nicht nur gefordert, in ihr eigenes Know-how zu investieren, sondern auch ihre Mitarbeitenden auf die Reise der KI mitzunehmen und durch gezielte Schulungen und klare Strategien ein Bewusstsein für Risiken zu schaffen. Nur so kann KI sicher eingesetzt werden und nachhaltig Nutzen bringen. Der AI Act macht das sogar nicht nur zur Empfehlung, sondern zur Pflicht“, sagt Marc Thamm, Product Head Technology, Media, Communications bei Hiscox.

KI-Nutzung: Absicherung bleibt Ausnahme

Trotz der weit verbreiteten Nutzung von KI bleibt die Absicherung gegen damit verbundene Risiken die Ausnahme. Nur 24,7 Prozent der Unternehmen sind gegen KI-Risiken versichert. Besonders besorgniserregend: 14 Prozent der KI-Entscheiderinnen und Entscheidern wissen nicht, ob ihr Unternehmen abgesichert ist und 14,7 Prozent glauben sogar, dass eine Absicherung gegen KI-Risiken grundsätzlich nicht möglich sei.

Diese Zahlen zeigen nicht nur eine geringe Marktdurchdringung, sondern vor allem ein massives Informationsdefizit. Viele Unternehmen sind sich der potenziellen Risiken – etwa durch fehlerhafte KI-Entscheidungen, Datenschutzverstöße oder regulatorische Konflikte – zwar bewusst, wissen aber nicht, wie sie sich dagegen schützen können. Das betrifft nicht nur die Absicherung selbst, sondern auch das Verständnis dafür, welche Risiken überhaupt versicherbar sind und welche Anforderungen – etwa durch den AI Act – an Unternehmen gestellt werden. Die Folge: Eine gefährliche Lücke zwischen technologischem Fortschritt und organisatorischer Reife. Während KI längst produktiv eingesetzt wird, fehlt es an klaren Prozessen, Verantwortlichkeiten und Schutzmechanismen.

KI verändert tiefgreifend die Arbeitswelt

Marc Thamm ist überzeugt: „KI ist gekommen, um zu bleiben und sie verändert unsere Arbeitswelt tiefgreifend. Doch während die allermeisten Entscheiderinnen Entscheider regemäßig KI nutzen, ist weniger als eins von vier Unternehmen versichert. Diese Diskrepanz zeigt, wie dringend wir über Risiken und Absicherung sprechen müssen. Auch die Versicherungswirtschaft hat hier einen klaren Auftrag: Lösungen anbieten, Orientierung geben und Transparenz schaffen. Sonst besteht die Gefahr, dass sie als Bremsklotz dieser Innovation wahrgenommen wird – statt als Enabler.“

Bedrohungen

Cybersicherheit: Risiken gehen häufig von Mitarbeitern aus