Einsatz von KI-Tools Sicherheit von KI-Agenten: Architektur schlägt Tooling

Anbieter zum Thema

FIS Informationssysteme und Consulting GmbH

Esker Software Entwicklungs-und Vertrieb

Yorizon GmbH & Co. KG

Inzwischen schürt die Berichterstattung zu KI die Furcht vor unkontrollierbaren KI-Agenten. Denn die autonome Funktionsweise der KI-Agenten wird auch zum Sicherheitsrisiko. Weil sie darauf trainiert sind, ihre Ziele zu erreichen, brechen sie aus Testumgebungen aus und fälschen Identitäten.

Moderne KI-Agenten erledigen ihre Aufgaben zunehmend eigenständig, doch diese Autonomie wird auch zum Sicherheitsrisiko. Weil sie darauf trainiert sind, ihre Ziele um jeden Preis zu erreichen, brechen KI-Agenten aus Testumgebungen aus und fälschen Identitäten, ohne dass ein Mensch sie dazu angewiesen hat. Fragen wie „ist ChatGPT sicherer als Claude? Ist Perplexity riskanter, weil es live auf das Web zugreift?“ sind daher nicht falsch gestellt, sie greifen nach Einschätzung der Beratung AN Digital aber zu kurz.

Das Risiko liegt nämlich selten im einzelnen Tool, sondern darin, dass Unternehmen nicht festgelegt haben, welche KI-Agenten wofür genutzt werden dürfen, mit welchen Daten, unter welchen Rechten und mit welchen Datenschutz-Garantien. „Jedes Tool ist so sicher wie die Governance, die ein Unternehmen drumherum aufbaut“, erklärt Mare Hojc, Gründer und CEO von AN Digital. Fehle diese Governance, entstehe Unsicherheit unabhängig davon, welcher Anbieter im Einsatz sei.

KI-Agenten: Drei Risiken im Geschäftsalltag

Es gibt drei zentrale Risikofelder benennen, die in vielen Unternehmen bislang kaum adressiert werden:

• Gefälschte KI-Tools, die über gesponserte Anzeigen gezielt Schadsoftware verbreiten.
• ChatGPT-Memories, die bei kompromittierten Nutzerkonten sensible Details offenlegen können.
• Shadow AI, also KI-Anwendungen, die Mitarbeiter ohne offizielle Freigabe im Arbeitsalltag einsetzen.

Aktuellen Studien zufolge kämpfen bis zu 76 Prozent der Unternehmen mit nicht genehmigten KI-Tools in der Belegschaft. „Ich gehe davon aus, dass die tatsächliche Zahl noch höher liegt“, so Hojc. Mitarbeiter würden KI dabei in aller Regel nicht einsetzen, um Regeln zu umgehen, sondern weil sie produktiver arbeiten wollten. „Das ist zunächst kein Compliance-Problem, sondern ein Signal – nämlich, dass klare Leitplanken fehlen.“

Zwei Seiten derselben Architekturfrage

Für AN Digital zeigt sich hier eine Parallele zu einem Thema, mit dem sich die Beratung im Kern beschäftigt: der Sichtbarkeit von Marken in KI-Systemen wie ChatGPT, Perplexity oder Google AI Overviews. „KI-Sicherheit ist nach innen gerichtet, AI Visibility nach außen. Aber beide Fragestellungen brauchen dieselbe Grundlage: eine klare Architektur – Regeln, Strukturen und Prozesse, die für KI-Agenten wie für Mitarbeitende gleichermaßen gelten“, erklärt Hojc. Unternehmen, die KI-Nutzung nicht aktiv gestalten, verlieren nach Einschätzung von AN Digital in beiden Bereichen die Kontrolle: intern über Daten und Zugriffsrechte, extern darüber, ob und wie sie in den Antworten von KI-Systemen überhaupt vorkommen.

KI-Sicherheit und AI Visibility brauchen dieselbe Grundlage: eine klare Architektur – Regeln, Strukturen und Prozesse, die für KI-Agenten wie für Mitarbeiter gleichermaßen gelten.

AIVA Architecture Sprint als Einstiegspunkt

Für die externe Perspektive – die Sichtbarkeit einer Marke in KI-Systemen – bietet AN Digital mit dem AIVA Architecture Sprint ein strukturiertes Vorgehen an. Im Rahmen des mehrwöchigen Programms analysiert AN Digital, wo ein Unternehmen aktuell in KI-Systemen steht, wo die größten Lücken in seiner AI Visibility Architecture liegen und welche Maßnahmen zuerst umgesetzt werden sollten. Der Sprint sollte drei Schritte umfassen:

• Diagnose der aktuellen KI-Sichtbarkeit
• Architektur-Blueprint für AI Visibility
• Priorisierte Roadmap für die nächsten Schritte.

AN Digital ist eine auf AI Visibility spezialisierte Beratung. Im Unterschied zu GEO-Agenturen, die Content und einzelne Prompts optimieren, erstellt AN Digital die strukturelle Architektur, die darüber entscheidet, ob eine Marke in KI-Systemen als Referenz verankert ist. Grundlage ist der Standard AIVA (AI Visibility Architecture), der erklärt, warum manche Marken in ChatGPT, Perplexity, Google AI Overviews und anderen KI-Systemen sichtbar sind und andere nicht.

Struktur und Logik erklärt

KI verstehen: Mit dem Vier-Wochen-Plan vom Anfänger zum kompetenten Prompt-Architekten