GenKI und IT-Sicherheit IT-Security-Branche im Spannungsfeld zwischen Chancen und Risiken

Anbieter zum Thema

d.velop AG

xSuite Group GmbH

Esker Software Entwicklungs-und Vertrieb

Eine im Auftrag von Check Point von der Enterprise Strategy Group von TechTarget im November 2023 durchgeführte Umfrage von 370 IT-Sicherheitsexperten in den USA zeigt den Wandel der Sicherheitsbranche durch generative KI (GenKI). 92 Prozent der Befragten sind überzeugt, dass maschinelles Lernen die Effizienz von IT-Sicherheitstechnologie verbessert hat.

Viele Unternehmen befassen sich bereits mit der Minderung von GenKI-Risiken. Die Befragten gaben an, dass ihre Unternehmen den Zugang zu entsprechenden Websites blockieren, sind aber besorgt über Datenverluste und fragen sich, ob Mitarbeiter schon auf GenKI -Anwendungen zugreifen und diese regelmäßig nutzen. CISOs müssen diese Themen daher dringend angehen, um zu wissen, wer solche Programme verwendet und wozu.

Aktuelle Trends bei der Nutzung von GenKI

Die Umfrage für den Report „The Future of Cybersecurity in the Age of Generative AI“ von Check Point Software enthält interessante Ergebnisse:

Das Adoptionsparadoxon: Während 87 Prozent der Sicherheitsexperten das Potential der GenKI zur Verbesserung der IT-Sicherheit anerkennen, ist ein Gefühl der Vorsicht spürbar. Dies ist auf die Erkenntnis zurückzuführen, dass dieselben Technologien auch von Hackern genutzt werden können.

Strategische Führung und Entwicklung von Richtlinien: 75 Prozent der Unternehmen beobachten nicht nur passiv, sondern entwickeln aktiv Governance-Richtlinien für den Einsatz der GenKI in der IT-Sicherheit. Dieser Ansatz deutet auf eine signifikante Verlagerung hin, die Technologie in die IT-Abwehr einzubetten und sicherzustellen, dass ihr Einsatz sowohl effektiv als auch verantwortungsvoll ist.

Investitionen und Auswirkungen: Die Studie prognostiziert einen entscheidenden Trend: Bis Ende 2024 wird GenKI die Kaufentscheidungen von mehr als 60 Prozent der Unternehmen beeinflussen. Diese Zahlen spiegeln das wachsende Vertrauen in die Fähigkeit der KI wider, um Sicherheitsprozesse zu revolutionieren – von der Erkennung von Bedrohungen bis hin zur Reaktion auf Vorfälle.

Operative Effizienz und Reaktion auf Bedrohungen: Eine der herausragenden Statistiken der Studie ist, dass 80 Prozent der befragten Fachleute davon ausgehen, dass GenKI die operative Effizienz deutlich verbessern wird. Darüber hinaus erwarten 65 Prozent, dass die Reaktionszeit auf Bedrohungen verbessert wird, was das Potential der Technologie unterstreicht, Sicherheitsprozesse nicht nur zu erweitern, sondern zu beschleunigen.

Herausforderungen und Bedenken: Trotz des Optimismus wirft die Studie auch ein Licht auf die Bedenken. Rund 70 Prozent der Befragten wiesen auf die Herausforderung hin, die Technologie in bestehende Sicherheitsinfrastrukturen zu integrieren, während 60 Prozent die Risiken betonten, die mit potenziellen Verzerrungen und ethischen Bedenken verbunden sind.

IT-Security-Experten erstellen Berichte mit GenKI

Die Teilnehmer der Umfrage sehen eine Reihe vielversprechender Anwendungsfälle, darunter die Verbesserung des Posture Managements, die Anleitung des Cybersecurity-Personals mit empfohlenen Maßnahmen, die Konsolidierung von Sicherheitstechnologien und die Schulung von Mitarbeitern. Sicherheitsexperten sparen zudem Zeit, indem sie GenKI nutzen, um zusammenfassende Berichte zu erstellen, wie Threat Intelligence Reports, Incident Response Reports oder Berichte zu den Gefahren. Außerdem beginnen die Teams, sich auf GenKI zu verlassen, um Bedrohungsdaten, die für ihr Unternehmen, ihre Branche und ihre Region relevant sind, schneller analysieren zu können. Sicherheitsexperten werden GenKI in naher Zukunft auch für Abfragen in Natural Language, zur Verbesserung selbst entwickelter Software und zur Erstellung von Erkennungsregeln nutzen.

Viele Unternehmen haben dafür zwar GenKI-Governance-Modelle entwickelt oder sind dabei, diese zu entwickeln, doch Sicherheitsexperten geben zu, dass in diesen Modellen zahlreiche Schwachstellen enthalten sind. Zu den wichtigsten dieser Lücken zählen für sie das Risikomanagement für Dritte (29 Prozent), die Data Leakage Prevention und das Rights Management (27 Prozent), die Einhaltung von Compliance (26 Prozent) und die Durchsetzung von Richtlinien für den Zugriff auf GenKI (26 Prozent). Anhand der Daten lässt sich feststellen, dass in den meisten Unternehmen eine Vielzahl diese und ähnliche Angriffspunkte zu finden sind. Die Behebung sollte eine Priorität für CISOs in diesem Jahr einnehmen.

Cyberkriminellte entwickeln eigene LLMs

Darüber hinaus haben Hacker und andere bösartige Akteure ebenfalls Zugang zu offenen GenKI-Anwendungen und verfügen über die technischen Möglichkeiten, eigene LLMs zu entwickeln. WormGPT und FraudGPT sind erste Beispiele für LLMs, die für Cyberkriminelle und Hacker entwickelt wurden. Mehr als drei Viertel der Befragten (76 Prozent) glauben daher, dass die Hacker LLMs nutzen und davon profitieren werden. Sie gehen sogar einen Schritt weiter und sehen die Angreifer im Vorteil.

Erschreckend ist, dass die meisten Sicherheitsexperten glauben, dass Cyber-Angreifer bereits an einer Stelle in der Angriffskette GenKI einsetzen und dass ihnen neue Technologien immer einen Vorteil verschaffen werden. Die neuen Möglichkeiten führen darüber hinaus zu einer Zunahme der Bedrohungen. Für ungeschulte Hacker wird es nach Ansicht der Befragten einfacher, um ausgefeilte Angriffe zu entwickeln und anzuwenden. Die Sicherheitsexperten treibt außerdem die Sorge um immer bessere Deep Fakes und automatisierte Angriffsmethoden.

Entwicklung  einer verantwortungsvollen KI-Strategie

„Die Ergebnisse der ESG-Studie beleuchten den komplexen, aber vielversprechenden Horizont der GenKI in der IT-Sicherheit. Sie zeigen einen vorsichtigen Optimismus, der das Innovationspotenzial mit einem ausgeprägten Bewusstsein für die bevorstehenden Herausforderungen in Einklang bringt. Unternehmen dienen die Erkenntnisse als Wegweiser, um Strategien zu entwickeln, die nicht nur technologisch fortschrittlich, sondern auch ethisch und strategisch solide sind. Im Kern geht es bei der Zukunft der IT-Sicherheit, nicht nur darum, die Werkzeuge einzusetzen, sondern den Einsatz auf eine durchdachte, verantwortungsvolle und letztlich transformative Weise zu steuern,“ erklärt Marco Eggerling, CISO EMEA bei der Check Point Software.

Künstliche Intelligenz

GenAI: So setzen Unternehmen das KI-Tool richtig ein