Sichere KI-Nutzung KI-Anwendungen: Drei Wege, wie sie die Sicherheit neu definieren

Anbieter zum Thema

One Identity GmbH

xSuite Group GmbH

Esker Software Entwicklungs-und Vertrieb

Künstliche Intelligenz führt immer noch zu erheblichen Veränderungen bei der Cybersicherheit. KI-Anwendungen kommen zunehmend zum Einsatz, daher sollten sich Unternehmen darauf vorbereiten, dass ihre Daten, Systeme und Benutzer steigenden Risiken ausgesetzt sind.

Die inzwischen weit verbreitete Nutzung von generativen KI-Anwendungen führt dauerhaft zu komplexen Schwachstellen. Grund genug für Führungskräfte, ihre defensiven und offensiven IT-Sicherheitsstrategien kritisch zu überdenken. Auf folgende drei Entwicklungen müssen sich Unternehmen im Jahr 2025 voraussichtlich einstellen:

„Kollege KI“: Eine wichtige Sichtweise für Unternehmen

KI-Anwendungen sind heutzutage tief in die geschäftlichen Abläufe eingebettet. Genau diese Integration macht sie für Cyberkriminelle zu besonders lukrativen Zielen. Im Jahr 2025 wird es Hackern nicht nur gelingen, in KI-basierte Anwendungen einzudringen. Es wird ihnen auch gelingen, KI so zu manipulieren, dass Angreifer Geschäftsprozesse stören oder immense finanzielle Verluste verursachen können. Firmen sollten dazu übergehen, KI-Anwendungen wie eine Person zu betrachten. Ganz ähnlich wie wir es vor nicht allzu langer Zeit bei Bots getan haben. 

Für Unternehmen ist es angesichts dessen unerlässlich, ausgeklügelte Überwachungs- und Reaktionssysteme (monitoring, response systems) sowie Sicherheitsprotokolle zu implementieren, die speziell auf KI zugeschnitten sind. Darüber hinaus sollten proaktive Mitarbeiterschulungen und der Austausch von Informationen der Bedrohungsaufklärung (Threat Intelligence) wichtige Bestandteile jeder robusten Sicherheitsstrategie sein.

Generative KI-Anwendungen erhöhen Risiko für NHIs

Durch die Nutzung generativer KI erhöht sich die Zahl von NHIs in einem Unternehmen rapide. 2025 wird sich dieser Trend verstärken. Eine unkontrollierte Ausbreitung dieser nicht-menschlichen Identitäten eröffnet Angreifern neue Möglichkeiten und macht das Identitätsmanagement noch komplexer als es ohnehin schon ist. Das gilt in verschärftem Maß für Unternehmen, die sehr schnell dazu übergegangen sind, Lösungen auf Basis von generativer KI einzusetzen.

Mit der allgemeinen Hysterie rund um KI (und der generell eher unkontrollierten Verbreitung von generativer KI) wird sich das Gefahrenpotenzial nicht-menschlicher Identitäten im Jahr 2025 erhöhen. KI wird mehr und mehr Arbeitsprozesse automatisieren und NHIs in der Folge spezielle Verfahren für das Identity Management benötigen. Sicherheitsteams sollten die IAM-Protokolle auf NHIs ausweiten und sich dabei von den Prinzipien der minimalen Rechtevergabe leiten lassen, regelmäßige Audits durchführen und autonome Agents in Echtzeit überwachen. Verzichtet man auf diese Vorsichtsmaßnahmen, werden NHIs schnell zum bevorzugten Angriffsziel innerhalb eines Unternehmens.

KI-Einsatz treibt Prämien für Cyberversicherungen in die Höhe

Die derzeitigen Bedenken, was die Sicherheit von KI und anderen Transformationsbestrebungen anbelangt, treiben die Prämien für Cyberversicherungen in die Höhe. Die Versicherer beobachten KI-Entwicklungen sehr genau, denn das Schadenspotenzial KI-basierter Vorfälle, einschließlich von Sicherheitsverletzungen, Betrug oder Systemausfällen, erfordert zwangsläufig eine Neubewertung der Risiken. In dem Maße, in dem Firmen dazu übergehen, KI mehr und mehr in organisatorische Prozesse zu implementieren, kalkulieren Versicherer das Risiko und die potenziellen Auswirkungen KI-basierter Vorfälle neu. 

Unternehmen, die KI-Governance und eine entsprechende Sorgfalt bei der Cybersicherheit vermissen lassen, respektive nicht nachweisen können, müssen mit höheren Prämien rechnen. Dieser Druck wird Unternehmen veranlassen, ihr Risikomanagement zu optimieren und mehr in Präventivmaßnahmen zu investieren, um die steigenden Prämien zu kontrollieren. Dies wird eine neue Ära im Bereich Risikomanagement für künstliche Intelligenz einläuten: Unternehmen werdenKI-Schwachstellen genauso ernst nehmen wie traditionelle Bedrohungen. Es geht dabei auch um einen Verständniswandel. Prämienerhöhungen sind nicht nur finanzielle Unannehmlichkeiten - sie sind Indikatoren für eine Risikolandschaft, die sich in Echtzeit verändert.

Wie Unternehmen ihre KI-Anwendungen absichern sollten

KI wird erneut eine wesentliche Rolle innerhalb der Cybersicherheit, als gleichzeitig transformativer und herausfordernder Faktor spielen. Daher sollten Unternehmen KI-Anwendungen so absichern, als ob es sich um Personen handeln würde. Außer NHIs zu schützen sollte man sich ebenfalls auf steigende Prämien bei Cyberversicherungen einstellen. Firmen, die KI-Risiken vorrausschauend managen, werden eher in der Lage sein, das Potenzial von KI zu nutzen, ohne den Risiken zum Opfer zu fallen. 

Es gilt, eine Cybersecurity-Awareness-Kultur aufzubauen und tragfähige Schulungsprogramme einzuziehen. Beides wird für den unternehmerischen Erfolg unerlässlich sein. Cyberbedrohungen werden sich kontinuierlich weiterentwickeln. Deshalb sollte man Daten und Systeme umfassend schützen und gleichzeitig die branchenübergreifende Zusammenarbeit fördern. Letztlich wird beides eine entscheidende Rolle beim Aufbau einer grundlegenden Resilienz im Bereich Sicherheit spielen.

It-sa Expo & Kongress 2024

Identity Security: SailPoint will diese neu definieren