GenAI-Tools Generative KI: Rechtliche Bedenken bremsen die Einführung

Anbieter zum Thema

Lünendonk & Hossenfelder GmbH

d.velop AG

xSuite Group GmbH

Esker Software Entwicklungs-und Vertrieb

Laut einer neuen Studie von Lündendonk erklären 42 Prozent der Befragten, dass generative KI bereits eine hohe Relevanz in ihrem Unternehmen hat. Als Vorteile werden am häufigsten Automatisierungspotenziale, Kosteneinsparungen und Dokumentation von Wissen genannt. Allerdings bestehen rechtliche Bedenken bezüglich der Folgen falscher KI-Ergebnisse.

Mit der Einführung von ChatGPT im Herbst 2022 erreichte die generative KI den Durchbruch und markierte einen Meilenstein für die digitale Transformation. Inzwischen beschäftigen sich fast alle befragten Unternehmen und Organisationen mit dieser Technologie, zeigt die Studie „Generative AI – von der Innovation bis zur Marktreife“ von Lünendonk. So hat generative KI für 42 Prozent der teilnehmenden Unternehmen eine hohe Relevanz, während 58 Prozent der Technologie skeptisch gegenüberstehen. 13 Prozent lassen generative KI und deren Einsatz noch gar nicht zu – vor allem aufgrund von Bedenken bei der Datensicherheit und der Qualität der generierten Ergebnisse wie auch aufgrund von ungeklärten Haftungsfragen. Mit Blick auf den EU AI Act stellen derzeit sogar 31 Prozent der befragten Unternehmen ihre Aktivitäten bezüglich generativer KI zurück, weil sie zunächst auf die Konkretisierung des EU AI Acts warten wollen. 

Generative KI: Unternehmen stehen am Anfang der Einführung

Die Anwendungsbereiche, die generative KI in Unternehmen bietet, sind vielfältig: 85 Prozent der befragten Unternehmen nutzen sie für konzeptionelle Arbeiten, acht von zehn Unternehmen für Datenanalysen und Prognosen und 71 Prozent betten generative KI-Funktionalitäten in ihre digitalen Services ein. Folglich ist die Erhöhung der Kundenzentrierung mit 71 Prozent der meistgenannte Benefit. Darüber hinaus versprechen sich 67 Prozent durch den Einsatz von generativer KI signifikante Automatisierungspotenziale und 66 Prozent Kosteneinsparungen. 

Jedes zweite Unternehmen sieht einen Vorteil in der Dokumentation von Wissen – unter anderem, um dem demografischen Wandel und dem daraus resultierenden Wissensverlust zu begegnen. Das Thema generative KI hat für die meisten Studienteilnehmer eine hohe Relevanz. Jedoch stehen die meisten untersuchten Unternehmen beim Einsatz generativer AI aktuell erst am Anfang – lediglich drei Prozent der befragten Unternehmen haben generative KI-Lösungen bereits vollständig in ihren Produktivbetrieb integriert, 34 Prozent befinden sich noch in der Erprobungsphase. 

Den meisten Unternehmen fehlt noch das Vertrauen in KI

71 Prozent der Befragten geben an, dass in ihren Unternehmen rechtliche Bedenken bezüglich der Konsequenzen falscher KI-Ergebnisse bestehen. Sie befürchten hohe Haftungsrisiken aufgrund falscher Entscheidungen auf Basis von Resultaten der KI. Ein wichtiger Aspekt für den erfolgreichen Einsatz generativer KI ist daher die Vertrauenswürdigkeit der Technologie, die auf der Qualität der Ergebnisse basiert. Unternehmen müssen sicherstellen, dass die Ergebnisse verlässlich und nachvollziehbar sind sowie keine Falschinformationen veröffentlicht werden. 

Technische Funktionalitäten wie Zuverlässigkeit, Robustheit und Erklärbarkeit der Ergebnisse sind dabei entscheidend. „Der Ruf nach einer vertrauenswürdigen KI wird mit fortschreitender Entwicklung und steigender Nutzerzahl immer lauter“, berichtet Mario Zillmann, Studienautor und Partner bei Lünendonk & Hossenfelder. Tatsächlich wollen 71 Prozent der befragten Unternehmen ihr Datenmanagement sowie ihre Datenqualität verbessern und ihre Data Governance auf den zunehmenden KI-Einsatz hin anpassen.

Zugriff auf generative KI: Folgt nun die Schatten-KI?

Allerdings birgt der Einsatz neuer Technologien auch neue Risiken. Besorgniserregend ist beispielsweise die Entstehung einer sogenannten Schatten-KI: So erlaubt ein Drittel der befragten Unternehmen (33 %) allen Mitarbeitern uneingeschränkten Zugriff auf GenAI-Tools, was zu Sicherheitsproblemen und Datenschutzverletzungen führen kann. In weiteren 32 Prozent der Unternehmen haben Mitarbeitende eingeschränkten Zugriff. Lediglich 35 Prozent der Unternehmen beschränken die Zugriffsrechte auf ausgewählte Bereiche und Funktionen.  

Marktstudie

IT-Dienstleister: Weiter auf Wachstumskurs trotz schwacher Konjunktur

Zur Methodik der Studie: Für die Studie „Generative AI – Von der Innovation bis zur Marktreife“ von Lünendonk wurden 150 Verantwortlichen aus der IT und dem Business befragt. Die Befragten stammen aus mittelständischen Unternehmen und Konzernen in der Industrie, dem Finanzsektor, dem Handel, der Energie-Branche, dem Healthcare-Sektor und dem öffentlichen Sektor. Die Studie wurde in fachlicher Zusammenarbeit mit GFT, KPS, Protiviti, Randstad Digital, Reply und Senacor realisiert.