Sichere KI-Anwendungen KI-Sicherheit: TrendAI bringt Security-by-Design auf Basis von Nvidia

Anbieter zum Thema

NVIDIA GmbH

Trend Micro Deutschland GmbH

d.velop AG

xSuite Group GmbH

Yorizon GmbH & Co. KG

TrendAI hat die Integration von Security-by-Design in KI-Fabriken auf Basis der Nvidia-Plattform DSX Air angekündigt, um deren sichere Bereitstellung zu beschleunigen. Für eine höhere KI-Sicherheit wird TrendAI zudem die OpenShell-Umgebung von Nvidia unterstützen.

TrendAI, ein Geschäftsbereich von Trend Micro, hat die Integration der DSX-Air-Plattform von Nvidia angekündigt. Damit können Kunden die Sicherheit ihrer KI-Fabriken vor der Bereitstellung entwerfen, testen und nachweisen. Die DSX-Air-Plattform ist eine Cloud-basierte Netzwerk-Simulationsplattform, welche die Einführung von KI-Fabriken beschleunigen und zugleich die Kosten senken soll. Kunden können damit digitale Zwillinge ihrer Rechenzentrums-Infrastruktur erstellen, validieren und testen, bevor die physische Installation erfolgt. Die Plattform bietet eine schnellere Integration, größere Einsparungen bei den Investitionskosten und eine deutlich höhere Skalierbarkeit als herkömmliche Laborumgebungen. KI-Sicherheit bleibt jedoch ein entscheidender Faktor für jedes neue Fabrikprojekt.

KI-Sicherheit: Fehlende Zugriffskontrollen und Probleme in der Lieferkette

Laut IBM meldeten im vergangenen Jahr mehr als zehn Prozent der global tätigen Unternehmen Datenschutzverletzungen im Zusammenhang mit ihren KI-Modellen oder -Anwendungen. Die Auswirkungen sind für Unternehmen ohne künstliche Intelligenz oder Automatisierung in der Cybersicherheit deutlich größer: Sie verzeichneten durchschnittlich 1,9 Millionen US-Dollar höhere Kosten durch Data Breaches als Unternehmen, die solche Technologien einsetzten. Häufig wurden fehlende Zugriffskontrollen und Probleme in der Lieferkette, wie beispielsweise kompromittierte Anwendungen, APIs und Plug-ins, als Ursachen genannt. Diese führten zu Datenverlust und Betriebsunterbrechungen. Diese Risiken verändern, wie Unternehmen die KI-Sicherheit erhöhen können.

KI-Fabriken reduzieren Risiken durch Data Breaches

KI-Fabriken, die von Anfang an auf Sicherheit ausgelegt sind, können dazu beitragen, Unternehmensrisiken und die Auswirkungen von Data Breaches zu reduzieren, indem diese Probleme frühzeitig im Lebenszyklus angegangen werden. Hier kommt TrendAI ins Spiel. Die neue Integration mit der DSX-Air-Plattform von Nvidia unterstützt Teams dabei, die Auswirkungen von Sicherheitskontrollen auf KI-Fabriken zu verstehen, ohne vorab physische Infrastruktur bereitstellen zu müssen. Dadurch werden Proof-of-Concepts und frühe Evaluierungen vereinfacht.

Zwei wichigen Funktionen von TrendAI Vision One

Agentenlose EDR-Sicherheit für KI-Fabriken mit TrendAI Vision One: Dieser schlanke Sicherheitsagent wird auf Nvidia BlueField Data Processing Units (DPUs) mit DOCA-Argus-Software-Framework-Integration bereitgestellt. Er bietet Einblick in die Host-Aktivitäten (Dateiaktivitäten, Netzwerkschnittstellen und aktive Prozesse), erfasst und analysiert den Netzwerkverkehr und nutzt TrendAI Threat Intelligence, um verdächtiges Verhalten zu identifizieren. Mit TrendAI Vision One können Kunden Red-Team-Übungen durchführen, die MITRE-Bedrohungen simulieren, um ihre Infrastruktur und ihren Sicherheitsstatus zu testen.

Hochleistungsfähiger Netzwerkschutz mit TrendAI Tipping Point: Kunden können die Wirksamkeit und Leistung von Virtual Patching testen, welches auf der TrendAI Zero Day Initiative (ZDI) und branchenerprobten Netzwerk-Erkennungs- und -Abwehrfunktionen (IDS/IPS) basiert. Es schützt KI-Fabriken vor bekannten und unbekannten Bedrohungen sowie ausnutzbaren Schwachstellen. Mithilfe der Simulation über den digitalen Zwilling können Kunden sicherstellen, dass Patches sicher und effizient bereitgestellt werden, um Unterbrechungen des laufenden Betriebs zu minimieren.

Rachel Jin, Chief Platform und Business Officer bei TrendAI, kommentiert: „Echte Innovation erfordert das Beste aus zwei Welten: KI und Cybersicherheit. KI-Sicherheit im großen Maßstab lässt sich nicht nachträglich hinzufügen. Vielmehr erfordert sie eine speziell dafür entwickelte Grundlage. Indem wir Kunden die Möglichkeit geben, den Impact von Veränderungen auf die Sicherheit in digitalen Zwillingen zu simulieren, bereiten wir den Weg für einen neuen Ansatz der Secure AI Factory.“

Amit Katz, VP of Networking bei Nvidia, ergänzt: „Nvidia konzentriert sich darauf, die Entwicklung und Validierung von KI-Fabriken der nächsten Generation zu vereinfachen und zu beschleunigen. Durch die Zusammenarbeit mit Partnern wie TrendAI können Unternehmen Bedrohungen über den gesamten Stack hinweg erkennen, von der Cloud bis zum Endpunkt hinweg. So können sie sich auf die Skalierung von KI konzentrieren, ohne Kompromisse bei der Sicherheit einzugehen.“

KI-Sicherheit im großen Maßstab lässt sich nicht nachträglich hinzufügen. Vielmehr erfordert sie eine speziell dafür entwickelte Grundlage.

Rachel Jin, TrendAI

OpenShell von Nvidia unterstützt sichere Agentic AI

Außerdem wird TrendAI künftig OpenShell von Nvidia unterstützen. Hierbei handelt es sich um eine neue Open-Source-Laufzeitumgebung für für langlebige, sich selbst weiterentwickelnde Agenten mit Funktionen wie Planung, Speicher und Tool-Ausführung. Diese Fähigkeiten können zwar erhebliche Produktivitätsgewinne ermöglichen, bringen jedoch auch neue Risiken für die KI-Sicherheit mit sich, etwa durch nicht autorisierte Fähigkeiten, verborgene Verhaltensweisen, Prompt-Injection oder unbeabsichtigten Systemzugriff. 

TrendAI will dazu beitragen, Agentic AI von einem risikoreichen Experiment zu einer sicheren Architektur weiterzuentwickeln. Unternehmen können so Vertrauensgrenzen definieren, Richtlinien während der Ausführung durchsetzen und das Verhalten autonomer KI-Systeme kontinuierlich überwachen, ohne die Leistungsfähigkeit agentischer Systeme einzuschränken.

Die Zielsetzungen sollen durch eine zusätzliche Sicherheitsschicht auf Unternehmensniveau erreicht werden, die regelt, wie Agenten agieren, auf welche Tools sie zugreifen können und wie Risiken vor, während und nach der Ausführung erkannt und beseitigt werden. Die Zusammenarbeit erstreckt sich zudem auf den Nvidia AI-Q Blueprint und das Nvidia NeMo Agent Toolkit. Dadurch sollen konsistente Sicherheits-, Governance- und Beobachtungsmechanismen entstehen, wenn agentische Systeme in Unternehmensumgebungen skaliert werden.

Digitale Souveränität

Trend Micro stellt Plattform in AWS European Sovereign Cloud bereit