Dedizierte Neural Processing Units (NPUs) KI-PCs: Künstliche Intelligenz wandert zunehmend auf die Endgeräte der Nutzer

Anbieter zum Thema

Dell GmbH

xSuite Group GmbH

Esker Software Entwicklungs-und Vertrieb

KI-PCs bringen neben einem Hauptprozessor und einem Grafikchip auch eine Neural Processing Unit (NPU) für Künstliche Intelligenz mit.

Viele Unternehmen stehen aktuell vor dem Austausch ihrer Hardware für die Anwender. Als 2020 viele Mitarbeiter in den Lockdown mussten, wurden zahlreiche neue Geräte angeschafft, die nun in die Jahre gekommen sind. Hinzu kommt der steigende Bedarf an Rechenleistung, zum Beispiel durch Anwendungen und Tools, die vermehrt auf Künstliche Intelligenz setzen. Sogenannte KI-PCs sollen die Lösung sein – Computer, neben einem Hauptprozessor (Central Processing Unit, CPU) und einem Grafik-Chip (Graphics Processing Unit, GPU) über eine speziell für KI-Aufgaben ausgelegte Neural Processing Units (NPUs) verfügen.

Vorteile von KI-Computern

Dell Technologies nennt vier Punkte, in denen die neue Hardware-Generation Nutzer bei ihrer Arbeit unterstützt:

Effektivere Kollaboration: Viele Kollaborations-Tools bieten Nutzern schon heute weitreichende KI-basierte Funktionen etwa bei Videocalls. Beim sogenannten Auto Framing erfasst entsprechende Software beispielsweise sämtliche Personen im Raum und stellt den Bildrahmen so ein, dass alle möglichst gut erfasst sind. Mit entsprechenden Tools kann Eye-Tracking-Software zudem dafür sorgen, dass sich Videotelefonie am PC für alle Beteiligten natürlicher anfühlt: indem sie die Bildschirmelemente, zu denen die Augen während Calls hinwandern, automatisch so positioniert, dass der Blickkontakt mit dem Gesprächspartner möglichst nicht unterbrochen wird. Ein weiterer Klassiker KI-basierter Funktionalität ist das Verwischen des Hintergrunds, um mögliche Ablenkungen oder ein privates Umfeld auszublenden. All die mit diesen Technologien verbundenen Workloads werden in KI-PCs von der NPU ausgeführt, was die Akkulaufzeit deutlich verbessert.

Schnellere Content-Erstellung: Generative KI-Tools sind zum Beispiel extrem gut darin, aus Texteingaben passende Grafiken und Bilder zu erstellen. Für herkömmliche PCs sind die hierfür erforderlichen enormen Rechenleistungen allerdings ein kräftezehrender Prozess. In KI-PCs hilft die NPU der grafischen und der zentralen Prozessoreinheit auf die Sprünge, sodass KI-Bilder um ein Vielfaches schneller generiert werden können. Das verkürzt die Wartezeit und steigert somit die Produktivität der Nutzer.

Studie

Künstliche Intelligenz: Deutsche Unternehmen sind noch nicht bereit dafür

Sicheres Arbeiten in Hybrid-Work-Umgebungen: Viele Sicherheitsanwendungen laufen in der Cloud und werden zentralisiert von den Administratoren verwaltet. Auch in dieser Hinsicht können NPUs zukünftig ihre Stärke ausspielen, indem Unternehmen essenzielle Cybersecurity-Funktionen über die Neural Processing Unit auf das Gerät selbst verlagern. Dies ermöglicht eine umfassendere Erkennung von Bedrohungen auf Client-Seite und hilft Nutzern beispielsweise, bösartige Webseiten und Schwachstellen im System schneller zu erkennen. Da die Algorithmen auf dem Gerät selbst ausgeführt werden, entfällt mit NPUs die Latenzzeit, die bei der Nutzung rein Cloud-basierter Lösungen entsteht.

Effizienteres Arbeiten mit KI-Assistenten: Die meisten Nutzer von KI-Tools kennen unangenehme Wartezeiten. Bis der Prompt verarbeitet und die Ergebnisse übertragen wurden, vergeht oft unnötig viel Zeit. Diese Latenz lässt sich durch KI-PCs mit NPU reduzieren, indem etwa auf LLMs basierende Chatbots vollständig lokal oder zumindest im Hybridmodus laufen. Ein lokales Modell wird sich – sobald die Rechenkapazität On-Premise bei den Nutzern vorhanden ist – auch aus Sicherheits- und Compliance-Gründen für viele Unternehmen lohnen.

„Die Zukunft traditioneller und generativer KI wird zunehmend auf den Endgeräten der Nutzer stattfinden“, ist sich Ute Riester sicher, Senior Manager Field Product Management Client Solutions bei Dell Technologies.