DB Podcast

IT-Infrastruktur für KI-Nutzung KI-Anwendungen: So lassen die fünf größten IT-Engpässe beseitigen

Verantwortliche:r Redakteur:in: Stefan Girschner 3 min Lesedauer

Anbieter zum Thema

Viele Unternehmen möchten KI-Anwendungen einsetzen, doch häufig sind ihre IT-Infrastrukturen nicht ausreichend darauf vorbereitet. Wie sich die fünf größten Schwächen bei der IT-Infrastruktur beheben lassen.

(Bild:  © Bartek/stock.adobe.com)
(Bild: © Bartek/stock.adobe.com)

Künstliche Intelligenz wird zunehmend zu einem entscheidenden Faktor für Effizienz, Innovation und Wettbewerbsfähigkeit. Deshalb möchten immer mehr Unternehmen künstliche Intelligenz im großen Stil nutzen und breit in ihre Geschäftsprozesse integrieren. Ihre IT-Infrastrukturen stehen diesen Ambitionen aber oft im Weg, denn als sie konzipiert wurden, war noch nicht abzusehen, dass sie einmal KI-Anwendungen unterstützen müssen. Wie IT-Verantwortliche in Unternehmen die größten Stolpersteine aus dem Weg räumen können.

1. Datenzugriff für KI-Anwendungen wird zum Flaschenhals

KI-Modelle benötigen einen schnellen Zugriff auf hochwertige Daten. Gleichzeitig müssen Unternehmen Informationen in Übereinstimmung mit gesetzlichen Vorgaben wie der DSGVO verwalten und übertragen. Diesen Anforderungen stehen häufig Datensilos im Weg. Außerdem liefern ältere Speichersysteme oft nicht den erforderlichen Datendurchsatz für das Training komplexer Modelle. Moderne Datenplattformen konsolidieren Daten aus verschiedenen Quellen und liefern gleichzeitig hohe Datendurchsätze und optimierte Zugriffspfade, so dass Training und Inferenz von KI-Modellen in der erforderlichen Geschwindigkeit durchgeführt werden können.

2. Die Rechenressourcen stoßen an ihre Grenzen

Der produktive Einsatz von KI ist meist sehr rechenintensiv. Nur wenige Unternehmen trainieren große Sprachmodelle von Grund auf neu, aber viele setzen KI ein, um Echtzeitentscheidungen, Analysen, Computer Vision und zunehmend auch autonome Workflows zu unterstützen. Wenn diese Aufgaben mit den bestehenden Geschäftsanwendungen um dieselben Ressourcen konkurrieren, leidet die Leistung der KI. Eine spezielle Infrastruktur mit beschleunigter Rechenleistung erlaubt es Unternehmen, ihre gemischten Workloads effizient zu unterstützen. Sie sorgt für priorisierten Zugriff auf Ressourcen, optimiert die Verarbeitung großer Datenmengen in Echtzeit und stellt sicher, dass KI-Anwendungen mit maximaler Leistung betrieben werden können.

3. KI-Anwendungen: Das Netzwerk produziert Staus

KI erfordert ein robustes Netzwerk, um riesige Datensätze zwischen Speichern, Verarbeitungseinheiten und Endbenutzern zu übertragen. Ein langsames oder unzuverlässiges Netzwerk kann zu erheblichen Engpässen führen und dadurch die Mitarbeiter und Kunden frustrieren. Eine schnelle Netzwerkstruktur mit geringer Latenz ist unerlässlich, um einen reibungslosen, kontinuierlichen Datenfluss zu gewährleisten. Solche Infrastrukturen kombinieren hohe Bandbreiten, stabile Verbindungen und optimierte Kommunikationsprotokolle mit KI-optimierten Features und Traffic-Priorisierung, sodass große Datenmengen in Echtzeit übertragen und KI-Anwendungen zuverlässig betrieben werden können.

4. Bereitstellung der KI-Anwendungen ist komplex

Bei der Übertragung von KI-Modellen aus der Entwicklungs- und Testumgebung in den produktiven Betrieb sind viele IT-Teams mit großer Komplexität konfrontiert. Sie haben Schwierigkeiten, Ressourcen bereitzustellen, Softwareabhängigkeiten zu verwalten und Anwendungen zu skalieren. Der Grund dafür sind meist starre, manuell konfigurierte Umgebungen. Moderne Software-Stacks und Automatisierungs-Tools ermöglichen es IT-Teams, KI-Anwendungen schnell bereitzustellen, einfach zu verwalten und bei Bedarf zu skalieren. Sie stellen katalogbasierte, validierte Blueprints und orchestrierte Automatisierungen bereit, die manuelle Konfigurationsschritte eliminieren, Abhängigkeiten automatisch einrichten und Infrastrukturkomponenten konsistent konfigurieren.

5. Fehlen eines genau definierten Skalierungspfades

Auch wenn das erste Projekt eines Unternehmens zur Einführung von KI-Anwendungen klein anfängt, sollte seine Infrastruktur für die nächsten Schritte bereit sein. Dafür ist eine kosteneffiziente Strategie zur Skalierung von KI-Anwendungen erforderlich. Wenn die Erweiterung der KI-Umgebung eine vollständige und kostspielige Überarbeitung der Infrastruktur verlangt, ist es schwierig, den Erfolg eines ersten, begrenzten KI-Projekts im gesamten Unternehmen zu wiederholen. Mit einer Infrastruktur, die auf einer skalierbaren, modularen Architektur basiert, können Unternehmen ihre KI-Ressourcen schrittweise erweitern.

Christian Scharrer ist Enterprise Architect und CTO Ambassador bei Dell Technologies.(Bild:  Dell Technologies)
Christian Scharrer ist Enterprise Architect und CTO Ambassador bei Dell Technologies.
(Bild: Dell Technologies)

Christian Scharrer, Enterprise Architect und CTO Ambassador bei Dell Technologies, erklärt: „KI braucht nicht nur Algorithmen und Daten, sondern auch eine leistungsstarke und agile Grundlage. Die Investition in eine moderne, zielgerichtete Infrastruktur ist eine Investition in die Zukunft. Sie stärkt die IT-Teams, vereinfacht komplexe Abläufe und schafft die Voraussetzung dafür, dass KI ihre Versprechen einlösen kann.“

Jetzt Newsletter abonnieren

Verpassen Sie nicht unsere besten Inhalte

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung