KI Security Posture Management Cyberkriminalität: Automatisierte Angriffe mit bösartigem KI-Tool

Anbieter zum Thema

Trend Micro Deutschland GmbH

d.velop AG

xSuite Group GmbH

Esker Software Entwicklungs-und Vertrieb

Eine neue Analyse von Trend Micro des im Darknet aufgetauchten Tools Xanthorox zeigt eine neue Entwicklungsstufe in der Professionalisierung von Cyberkriminalität. So werden generative KI-Fähigkeiten, die in Unternehmen die Effizienz vorantreiben, zunehmend für kriminelle Zwecke eingesetzt.

Trend Micro hat seine aktuelle Analyse zu „Xanthorox“, einem KI-Tool, das in Darknet-Foren als „guardrails-free AI“ (KI ohne Schutzvorrichtungen) vermarktet wird, veröffentlicht. Die Untersuchung zeigt, dass Xanthorox zwar in Bezug auf seine Fähigkeiten überbewertet wird, aber trotzdem eine besorgniserregende Veränderung in der Art und Weise darstellt, wie Cyberkriminalität KI nutzen – etwa, um die Generierung von Schadcode zu automatisieren und die für die Durchführung von Angriffen erforderlichen Fähigkeiten zu reduzieren.

Cyberkriminalität nutzt zunehmend KI-Tools wie Xanthorox

Ein Überblick über die wichtigsten Eigenschaften von Xanthorox:

Produzieren von funktionsfähigem bösartigem Code und Schritt-für-Schritt-Anleitungen zur Implementierung, die normalerweise von legitimen KI-Diensten blockiert werden.
Es besteht kein Zugang zum Internet und Dark Web, wodurch es für Aufklärungs- oder Schwachstellen-Recherchen weniger geeignet ist als eigentlich beworben.
Basis ist wahrscheinlich ein jailbroken kommerzielles Modell, obwohl behauptet wird, dass es eigenständig ist und privat gehostet wird. Das Tool ist darauf ausgelegt, Schutzvorrichtungen und ethische Filter zu entfernen, als die technische Tiefe zu verbessern – wobei die angeblich „unzensierte“ Nutzung Vorrang vor praktischer Leistung hat

Das Aufkommen von Xanthorox und ähnlichen Tools in der Cyberkriminalität unterstreicht den wachsenden Bedarf an KI-Governance, Mitarbeiterbewusstsein und klaren Richtlinien für die akzeptable Nutzung. Da KI zunehmend in Unternehmensabläufe integriert wird, kann dieselbe Technologie von Angreifern ausgenutzt werden, um Social Engineering, Malware-Entwicklung und automatisierte Angriffe zu verbessern.

David Sancho, Senior Threat Researcher bei Trend Micro, erklärt: „Getarnt hinter einer spielerischen Fassade und für nur 300 US-Dollar pro Monat erhältlich, lässt Xanthorox Nutzer funktionierende Malware, Ransomware-Code und Verschleierungsskripten generieren. Dies sind Aufgaben, die traditionell ein höheres Maß an technischem Fachwissen erfordern würden. Trotz der Behauptungen seines Entwicklers, dass es für ethisches Hacking entwickelt wurde, wird das Tool offen in kriminellen Communities beworben, während die Dokumentation über öffentliche Kanäle wie GitHub und YouTube zugänglich ist.“

Weiterentwicklung bösartiger KI-Systeme

Die Forscher von Trend Micro warnen davor, dass sich bösartige KI-Systeme weiterentwickeln und eine höhere Modellleistung mit stärkeren Datenschutz- und Anonymitätsfunktionen kombinieren werden. Die Beobachtung dieser Entwicklung ist entscheidend, um zu verstehen, wo und wie die Cyberkriminalität in Zukunft Vorteile erzielen können.

Vincenzo Ciancaglini, Senior Threat Researcher bei Trend Micro, kommentiert: „Tools wie Xanthorox spiegeln die nächste Phase des Missbrauchs von KI wider. Dieser Schritt wird zwar erfahrene Bedrohungsakteure nicht ersetzen, aber er wird es weniger fähigen Personen erleichtern, sich an Cyberkriminalität zu beteiligen, wodurch die Einstiegshürde gesenkt und das Gesamtvolumen der Bedrohungen für Unternehmen erhöht wird. Sicherheitsverantwortliche sollten sicherstellen, dass ihre KI-Strategien Kontrollen zur Überwachung, Prüfung und Verwaltung des Zugriffs auf generative KI-Tools und deren Verwendung in ihren Umgebungen umfassen.“

Sichere KI-Nutzung

KI-Systeme: Risiken nehmen durch ungeschützte KI-Server zu