Generative KI KI-Datenverletzungen werden durch grenzüberschreitenden Missbrauch verursacht 

Anbieter zum Thema

Gartner Deutschland GmbH

d.velop AG

xSuite Group GmbH

Esker Software Entwicklungs-und Vertrieb

Laut Gartner lassen sich bis 2027 40 Prozent der KI-Datenverletzungen auf den grenzüberschreitenden Missbrauch von GenAI zurückführen. Fehlende internationale KI-Standards zwingen Unternehmen dazu, länderspezifische Strategien zu entwickeln – ein Hindernis für den wirtschaftlichen Einsatz von KI-Tools.

Die rasante Verbreitung von GenAI-Technologien hat die Entwicklung von Datenschutz- und Sicherheitsmaßnahmen überholt. Besonders die für diese Technologien erforderliche zentrale Rechenleistung wirft einige Fragen zur Datenlokalisierung auf.

Jörg Fritsch, VP-Analyst bei Gartner, Inc. erklärt: „Unbeabsichtigte grenzüberschreitende Datenübertragungen entstehen oft durch mangelnde Kontrolle – insbesondere dann, wenn GenAI unbemerkt in bestehende Produkte integriert wird, ohne klare Hinweise oder Ankündigungen. Unternehmen stellen Veränderungen in den Inhalten fest, die ihre Mitarbeiter mit GenAI-Tools erstellen. Zwar können diese Tools für autorisierte Geschäftsanwendungen genutzt werden, doch sie bergen erhebliche Sicherheitsrisiken, wenn sensible Eingaben an KI-Tools oder APIs gesendet werden, die an unbekannten Standorten gehostet sind.“

Lücken in der GenAI-Standardisierung führen zu Ineffizienz

Das Fehlen einheitlicher globaler Best Practices und Standards für KI und Data Governance verschärft die Herausforderungen, indem es zu einer Marktfragmentierung führt und Unternehmen dazu zwingt, länder- oder regionalspezifische Strategien zu entwickeln. Dies kann ihre Fähigkeit einschränken, den Betrieb global zu skalieren und von KI-Produkten und -Dienstleistungen zu profitieren.

Fritsch erläutert: „Die Komplexität der Verwaltung von Datenströmen und die Aufrechterhaltung der Qualität aufgrund lokalisierter KI-Richtlinien kann zu betrieblichen Ineffizienzen führen. Unternehmen müssen in fortschrittliche KI-Governance und -Sicherheit investieren, um sensible Daten zu schützen und Compliance zu gewährleisten. Dieser Bedarf wird das Wachstum der Märkte für KI-Sicherheits-, Governance- und Compliance-Dienstleistungen sowie für Technologielösungen, die die Transparenz und Kontrolle über KI-Prozesse verbessern, wahrscheinlich vorantreiben.“

GenAI: KI-Governance wird zur globalen Anforderung

Gartner prognostiziert, dass KI-Governance bis 2027 zu einer Anforderung aller staatlichen KI-Gesetze und -Vorschriften weltweit werden wird. „Unternehmen, die nicht in der Lage sind, die erforderlichen Governance-Modelle und -Kontrollen zu integrieren, könnten einen Wettbewerbsnachteil erleiden, insbesondere wenn sie nicht über die Ressourcen verfügen, um bestehende Data-Governance-Rahmenwerke schnell zu erweitern“, so Fritsch. Um die Risiken von KI-Datenverletzungen, insbesondere durch grenzüberschreitenden KI-Missbrauch, zu mindern und die Einhaltung der Vorschriften sicherzustellen, empfiehlt Gartner Unternehmen mehrere strategische Maßnahmen:

Verbesserung der Data Governance: Stellen Sie die Einhaltung internationaler Vorschriften sicher und überwachen Sie unbeabsichtigte grenzüberschreitende Datenübertragungen, indem Sie Data-Governance-Rahmenwerke um Richtlinien für KI-verarbeitete Daten erweitern. Dies beinhaltet die Einbeziehung von Bewertungen der Datenherkunft und der Auswirkungen von Datentransfers in die regelmäßigen Datenschutzfolgenabschätzungen.

Governance-Ausschüsse einrichten: Bilden Sie Ausschüsse, um die KI-Aufsicht zu verbessern und eine transparente Kommunikation über den KI-Einsatz und den Umgang mit Daten sicherzustellen. Diese Ausschüsse müssen für die technische Aufsicht, das Risiko- und Compliance-Management sowie die Kommunikation und die Berichterstattung über Entscheidungen zuständig sein.

Stärken Sie die Datensicherheit: Verwenden Sie fortschrittliche Technologien, Verschlüsselung und Anonymisierung, um sensible Daten zu schützen. Überprüfen Sie beispielsweise vertrauenswürdige Ausführungsumgebungen in bestimmten geografischen Regionen und wenden Sie fortschrittliche Anonymisierungstechnologien wie Differential Privacy an, wenn Daten diese Regionen verlassen müssen.

Investieren Sie in TRiSM-Produkte: Planen Sie Budgets für TRiSM-Produkte und -Funktionen (Trust, Risk and Security Management), die auf KI-Technologien zugeschnitten sind, und weisen Sie diese zu. Dazu gehören KI-Governance, Datensicherheits-Governance, prompte Filterung und Schwärzung sowie die synthetische Generierung unstrukturierter Daten. Gartner prognostiziert, dass Unternehmen, die KI-TRiSM-Kontrollen anwenden, bis 2026 mindestens 50 Prozent weniger ungenaue oder unzulässige Informationen verbrauchen und damit Fehlentscheidungen reduzieren werden.

Gipfel von Gartner zu Sicherheit und Risikomanagement

Die Analysten von Gartner werden auf den Gartner Security & Risk Management Summits, die am 3. und 4. März in Sydney, 10. und 11. März in Indien und 7. und 8. April in Dubai sowie an weiteren Terminen stattfinden, die aktuellen Forschungsergebnisse und Ratschläge für Führungskräfte im Sicherheits- und Risikomanagement vorstellen. Weitere Erkenntnisse, wie Unternehmen den Wert von KI maximieren und gleichzeitig kritische Risiken managen können, bietet das kostenfreie E-Book AI in Cybersecurity: Risiken minimieren und Wirkung maximieren.

KI-Integration

GenAI: Status-quo und Hindernisse bei der Einführung