gesponsertDigital Business Transformation Leaders Podcast KI-Angriffe: Warum Tempo allein nicht schützt

KI-Angriffe können Sicherheitslücken schneller ausnutzen, als Menschen reagieren. Tim Berghoff, Security Evangelist bei G Data, erklärt, wie Unternehmen vor allem ihre Sichtbarkeit und Notfallfähigkeit verbessern sollten.

Du nennst Dich Security Evangelist. Klingt interessant und ungewöhnlich. Was gehört zu dieser Aufgabe?

Tim Berghoff: Auf meiner Visitenkarte steht tatsächlich Security Evangelist. Wenn mich jemand nach dem Titel fragt, verweise ich manchmal auf die griechische Wortherkunft: Ein Evangelist verkündet gute Nachrichten. Bei der aktuellen Sicherheitslage ist das nicht immer einfach. Meine Aufgabe ist aber nicht, möglichst viele Schreckensszenarien zu beschreiben. Ich möchte den Hype aus der Debatte nehmen, Entwicklungen einordnen und erklären, ob ein bestimmtes Risiko für Unternehmen tatsächlich relevant ist. Dazu gehört auch, auf die Grenzen einer Bedrohung hinzuweisen. Nicht jede neue Meldung verlangt sofort eine neue Sicherheitsstrategie.

KI-Systeme können Sicherheitslücken miteinander verketten. Ein Angreifer muss also nicht immer nur eine einzelne Schwachstelle finden. Mehrere Lücken entlang einer Angriffskette können gemeinsam einen unerlaubten Zugriff ermöglichen. Patch-Management ist eine wichtige Gegenmaßnahme, aber keine Garantie für vollständige Sicherheit.

Tim Berghoff, Security Evangelist bei der G DATA CyberDefense

Du sagst, deine Aufgabe sei, Bedrohungen einzuordnen und den Hype herauszunehmen. Ein konkreter Vorfall bietet dafür Anlass: Bei einem Sicherheitstest sollte ein KI-Modell eine Aufgabe ohne Internetzugriff lösen. Eine Schwachstelle ermöglichte den Zugriff trotzdem. Was geschah dann?

Tim Berghoff: Im Kern wollte man Fähigkeiten eines KI-Modells testen. Das Modell sollte eine Aufgabe mit den verfügbaren Möglichkeiten lösen, aber nicht auf das Internet zugreifen. Eine Schwachstelle in der Testumgebung machte diesen Zugriff dennoch möglich. Das System suchte dann offenbar selbst nach einer Quelle, die bei der Aufgabe helfen könnte. Dabei geriet die Situation aus dem Ruder. Entscheidend ist: Eine Testumgebung muss so abgesichert sein, dass ein Modell sie nicht einfach verlassen und auf fremde Systeme zugreifen kann. Wer solche Tests durchführt, muss also nicht nur das Modell, sondern auch seine Umgebung kontrollieren.

Hören Sie sich das ausführliche Interview mit Tim Berghoff in unserem Digital Business Transformation Leaders Podcast an

War das ein klassischer Hackerangriff?

Tim Berghoff: Ein wichtiger Unterschied liegt in der Absicht und im Auftrag. Bei einem klassischen Angriff versucht ein Täter, aus eigenem Interesse Zugriff auf ein Netzwerk zu bekommen. In dem geschilderten Fall hatte niemand dem Modell ausdrücklich den Auftrag gegeben, ein fremdes Unternehmen anzugreifen. Das System wählte diesen Weg selbst, um seine Aufgabe zu lösen. Der Fall zeigt außerdem, dass automatisierte Abwehr neue Fehler erzeugen kann: Ein Unternehmen ließ ein weiteres KI-Modell Angriffsdaten analysieren. Dabei konnte dieses Modell Daten und Anweisungen nicht zuverlässig auseinanderhalten und behandelte die zu prüfenden Informationen selbst als Angriff. Automatisierung braucht daher klare Grenzen und Kontrolle.

Muss eine Geschäftsführung angesichts solcher Berichte in Panik geraten?

Tim Berghoff: Nein. Angst ist verständlich, aber keine gute Grundlage für Sicherheitsentscheidungen. Berichte über Vorfälle erscheinen oft erst einige Zeit nach dem eigentlichen Geschehen. Eine wirksame Sicherheitsstrategie lässt sich nicht in einer akuten Schreckreaktion aufbauen. Unternehmen sollten zunächst prüfen, welche Systeme von außen erreichbar sind und ob sie ausreichend geschützt werden. Das betrifft keine exotischen Sonderfälle, sondern die Grundlagen der IT-Sicherheit. Panik hilft dabei nicht. Eine Bestandsaufnahme dagegen schon: Welche Zugänge gibt es? Welche Systeme sind aktuell? Wer erkennt einen Angriff, und wer darf im Notfall handeln?

DER GESPRÄCHSPARTNER

Tim Berghoff ist Security Evangelist bei der G DATA CyberDefense AG in Bochum. Im Gespräch beschreibt er seine Aufgabe als Einordnung von Sicherheitsentwicklungen und als Gegenpol zu überzogenen Erwartungen oder Ängsten. Weitere biografische Angaben enthält die Gesprächsaufzeichnung nicht.

Du sprichst von „Guardrails“ – also Leitplanken für KI. Reichen die eingebauten Schutzmechanismen eines Modells aus?

Tim Berghoff: Nein. Bei den beschriebenen Tests waren die internen Leitplanken bewusst reduziert oder abgeschaltet worden, damit sich bestimmte Fähigkeiten prüfen ließen. Das ist in Tests nicht ungewöhnlich. Es ist vergleichbar mit einem Motor auf dem Prüfstand: Er entspricht nicht in jeder Hinsicht dem späteren Serienauto. Zum Problem wird es, wenn die Testumgebung nicht ausreichend abgesichert ist. Kommerzielle Modelle verfügen in der Regel über Schutzmechanismen. Unternehmen sollten sich aber nicht allein darauf verlassen. Eine KI kann mehr, als sie soll – wenn technische und organisatorische Grenzen fehlen. Kurz gesagt: Nicht nur das Modell muss Regeln haben. Auch seine Umgebung muss unerwünschte Handlungen verhindern.

Was sollten Unternehmen zusätzlich zu diesen Leitplanken tun?

Tim Berghoff: Sie sollten einer KI nur die Berechtigungen geben, die sie für ihre konkrete Aufgabe braucht. Ein System, das eine bestimmte Datei verarbeiten soll, benötigt dafür keine weitreichenden Administratorrechte. Großzügige Rechte sind für die Verwaltung oft einfacher. Doch wenn eine KI selbst Entscheidungen trifft oder sich unerwartet verhält, vergrößern solche Rechte den möglichen Schaden. Das Prinzip ist aus dem Identitäts- und Zugangsmanagement bekannt: Zugänge und Rechte müssen kontrolliert und begrenzt werden. Unternehmen sollten prüfen, welche Identität ein KI-System nutzt, auf welche Daten es zugreifen kann und welche Aktionen es ausführen darf. Das gilt auch für Test- und Entwicklungsumgebungen.

Experten-Talk

Wer gewinnt den KI-Wettlauf 2026 – und wer beherrscht die Cybersicherheit?