gesponsertSichere Identitäten im Zeitalter von GenAI Von Deepfakes zu KI-Agenten: Gefahren und Potenziale von KI

Gesponsert von

Okta Deutschland

KI-gestützte Identitäten sind Fluch und Segen zugleich: Während Betrüger mit Deepfakes und KI-Technik Unternehmen infiltrieren, werden KI-Agenten zu wertvollen Begleitern im Arbeitsalltag. Okta zeigt: Der Schlüssel liegt in sicherer Identität.

Wenn KI zur Bedrohung wird: Deepfakes und digitale Identitäten als Einfallstor

Künstliche Intelligenz ist aus der modernen Arbeitswelt nicht mehr wegzudenken. Sie optimiert vielfache Arbeitsprozesse, steigert Effizienz und eröffnet neue Möglichkeiten der Automatisierung. Doch genau diese Stärken machen KI auch für Cyberkriminelle attraktiv. Das neu gegründete Threat Intelligence Team von Okta hat jüngst eine besonders perfide Betrugsmasche analysiert: nordkoreanische Staatsagenten nutzen generative KI, um mit gefälschten Identitäten und Deepfake-Videos unbemerkt in westliche Unternehmen einzuschleusen.

Der perfide Trick beginnt mit der Auswertung echter Bewerbungen, die man durch fingierte Stellenanzeigen einholt. Mithilfe von KI-Tools werden die besten Bewerberprofile analysiert und dienen im Nachgang als Vorlage, um Hunderte gefälschte Bewerbungsunterlagen für echte Remote-Jobs einzureichen. Unterstützt durch KI-generierte Identitäten, Social-Media-Profile und Deepfakes in Videointerviews täuschen die Betrüger Personalabteilungen sowie Fachteams, um die Zusage für Remote-Jobs zu erhalten. Nach erfolgreicher Einstellung werden die erhaltenen Firmengeräte in sogenannten "Laptop-Farmen" zentral betrieben – mit dem Ziel, Geld für das sanktionierte Regime in Nordkorea zu beschaffen.

KI-Agenten als unverzichtbare Helfer – und neue Herausforderung

Während auf der einen Seite KI als Werkzeug für Betrugsversuche eingesetzt wird, entfaltet sie auf der anderen Seite ein enormes Potenzial für Innovation und Effizienz: KI-Agenten werden zu digitalen Begleitern, die unseren Alltag und die Arbeitswelt grundlegend verändern. Ob bei der Reisebuchung, im Finanzmanagement oder als Unterstützung im Gesundheitswesen – KI-Agenten übernehmen Routinetätigkeiten, entlasten Mitarbeitende und steigern die Produktivität.

Ihre Fähigkeit, sich an individuelle Bedürfnisse anzupassen und eigenständig Aufgaben zu erledigen, macht sie zu wertvollen Partnern in nahezu allen Lebensbereichen. Doch je stärker KI-Agenten in unser Leben und in Unternehmensprozesse integriert werden, desto wichtiger wird die Frage nach ihrer Sicherheit. Denn jede Automatisierung, jeder digitale Begleiter birgt auch das Risiko eines Identitätsmissbrauchs oder unkontrollierter Zugriffe auf sensible Daten.

Identität als Grundlage für Vertrauen – und Schutzschild gegen Missbrauch

Sowohl bei der Abwehr von KI-gestützten Betrugsversuchen als auch bei der sicheren Integration von KI-Agenten kommt der Identität eine Schlüsselrolle zu. Nur wenn die Identität – ob menschlich oder maschinell – klar und überprüfbar ist, können Vertrauen und Sicherheit im digitalen Raum gewährleistet werden. Thomas Heinz, Senior Manager Solutions Engineering bei Okta, bringt es auf den Punkt: „Eine klare und überprüfbare Identität ist die Grundlage für Vertrauen im digitalen Raum. Ohne sie können weder Menschen noch KI-Systeme sicher interagieren.“

Unternehmen, die sich gegen die wachsende Bedrohung durch KI-gestützten Betrug schützen wollen, müssen daher an mehreren Stellschrauben drehen. So ist es essenziell, die Recruiting-Teams zu schulen und für verdächtige Bewerbungsmuster wie generische Lebensläufe oder ungewöhnliche Kommunikationszeiten zu sensibilisieren. 

Moderne Identitätsprüfungslösungen sollten konsequent vom ersten Kontakt bis zum Onboarding eingesetzt werden; zusätzlich empfiehlt sich der Abgleich neuer Bewerber mit internationalen Sanktionslisten. Nicht zuletzt ist die technische Überwachung von Remote-Zugriffen unerlässlich: Auffälligkeiten wie parallele Logins oder ungewöhnliche Arbeitszeiten müssen automatisiert erkannt und überprüft werden.

KI sicher einführen – Identitätsmanagement als Erfolgsfaktor

Doch nicht nur die Verteidigung steht im Fokus: Wer das Potenzial von KI-Agenten im Unternehmen voll ausschöpfen will, muss auch deren Identität und Berechtigungen klar definieren. Okta hat hierfür mit "Auth for GenAI" eine Lösung geschaffen, die es Unternehmen ermöglicht, KI-Agenten sicher zu integrieren. So wird gewährleistet, dass die Agenten nur auf jene Informationen zugreifen, die wirklich für ihre Aufgaben benötigt werden – und dass kritische Aktionen stets nachvollziehbar und im Zweifelsfall von Menschen überprüft werden können. Die Sicherheit der Schnittstellen (APIs) sowie eine durchgängige Kategorisierung und Absicherung sensibler Daten tragen dazu bei, dass KI-Agenten zu vertrauenswürdigen Partnern im Arbeitsalltag werden.

Bildergalerie

Bildergalerie mit 5 Bildern

Zukunftssicher durch starke Identitäten

Die fortschreitende Verbreitung von KI-Agenten und das immer professionellere Vorgehen von Cyberkriminellen machen eines deutlich: Ein sicheres und vertrauenswürdiges Identitätssystem ist kein „Nice-to-have“, sondern die Grundvoraussetzung für eine erfolgreiche digitale Transformation. Nur wer Menschen und Maschinen gleichermaßen zuverlässig authentifiziert und autorisiert, kann die Chancen der KI nutzen und sich gleichzeitig vor den neuen Risiken schützen.

Mit seinem Threat Intelligence Team und innovativen Lösungen wie Auth for GenAI begleitet Okta Unternehmen auf diesem Weg. Von der frühzeitigen Erkennung neuartiger Bedrohungen bis zur sicheren und transparenten Integration von KI-Agenten bietet Okta umfassende Expertise für eine vertrauenswürdige digitale Zukunft.

Wer beide Seiten der KI-Medaille versteht – die Risiken wie die Potenziale – kann die Zukunft aktiv und sicher gestalten. Weitere Informationen zum Threat Intelligence Team und zu sicheren KI-Lösungen finden Sie unter www.okta.de.