KI auf dem Gerät für Unternehmen mit AMD Ryzen™ AI PRO-Prozessoren

Ein AMD KI-PC ist ein System, das neben der CPU und der GPU eine dedizierte Neural Processing Unit (NPU) enthält. Während viele herkömmliche PCs KI-Auslastungen über CPU oder GPU ausführen können, ist ein AMD KI-PC speziell für die Ausführung von KI-Aufgaben über alle drei Verarbeitungs-Engines auf Grundlage der Auslastungsmerkmale konzipiert. Nicht-KI-PCs verlassen sich in der Regel auf die CPU, die Grafikeinheit oder eine separate GPU, um KI-Auslastungen auszuführen. Im Gegensatz dazu verfügen AMD KI-PCs über eine On-Die-KI-Engine, die zusätzliche Flexibilität und potenzielle Effizienz ermöglicht, indem geeignete KI-Auslastungen auf die NPU übertragen werden. Dadurch können KI-Aufgaben mit geringerer Auswirkung auf den Energieverbrauch ausgeführt werden, während CPU und GPU für andere Systemprozesse verfügbar bleiben. Der Unterschied besteht nicht darin, ob ein PC KI-Auslastungen ausführen kann, sondern ob er dedizierte KI-Hardware enthält, die diese effizient und gleichzeitig unterstützen kann.

AMD Ryzen AI bezieht sich auf die Kombination aus KI-fähiger Hardware und unterstützender Software, die in AMD Ryzen Prozessoren integriert ist. Dazu gehören eine dedizierte KI-Engine (NPU), AMD Radeon Grafikkarten und Ryzen CPU-Kerne, die gemeinsam KI-Funktionen für eine Vielzahl von Auslastungen ermöglichen. In der Praxis umfasst AMD Ryzen AI sowohl die Chipfunktionen, die die KI-Verarbeitung beschleunigen, als auch den Software-Stack, der erforderlich ist, um dies zu nutzen. KI-Auslastungen können je nach Leistung, Latenz und Energieanforderungen auf der CPU, GPU oder NPU ausgeführt werden. AMD Ryzen Prozessoren mit NPUs verwenden AMD XDNA™ und AMD XDNA2™ Architekturen, die entwickelt wurden, um sich verändernde KI-Auslastungen im Laufe der Zeit zu unterstützen. Die Auslagerung von KI-Aufgaben auf die NPU ermöglicht Multitasking mit minimalen Auswirkungen auf die Performance, sodass das System reaktionsschnell bleibt, während die KI-Verarbeitung parallel ausgeführt wird.

KI-Auslastungen lassen sich im Allgemeinen in zwei Kategorien einteilen: Training und Inferenz. Training umfasst die Erstellung oder Verfeinerung eines KI-Modells unter Verwendung großer Datensätze und erfordert in der Regel erhebliche Rechenressourcen, häufig mit GPU-Clustern oder spezialisierten Beschleunigern. Diese Arbeit wird in der Regel in Rechenzentren oder Cloud-Umgebungen durchgeführt. Inferenz ist der Prozess, bei dem ein trainiertes Modell auf neue Daten angewendet wird. Inferenz-Auslastungen sind im täglichen Gebrauch weitaus häufiger und können über eine Vielzahl von Hardware, einschließlich CPUs, GPUs und NPUs, ausgeführt werden. Viele KI-Anwendungen sind so konzipiert, dass sie Inferenz lokal auf PCs durchführen, anstatt sich auf die Cloud zu verlassen.

Systeme auf Basis von AMD Ryzen AI sind optimiert, um lokale Inferenz-Auslastungen zu unterstützen, indem sie auf der am besten geeigneten Verarbeitungs-Engine ausgeführt werden. Die NPU eignet sich besonders gut für andauernde KI-Inferenz mit geringem Energieverbrauch, während CPU und GPU Aufgaben verarbeiten, die von einer allgemeinen oder hochparallelen Verarbeitung profitieren.

„Über 100 KI-fähige Erlebnisse“ bezieht sich auf das wachsende Ökosystem von Anwendungen und Services, die KI-Beschleunigung auf Systemen auf Basis von AMD Ryzen AI nutzen. Dazu gehört die Zusammenarbeit mit unabhängigen Softwareanbietern (ISVs), Betriebssystempartnern und Plattformentwicklern, um KI-Funktionen für Produktivität, Sicherheit, Erstellung und technische Workflows zu aktivieren. Diese Erlebnisse umfassen Anwendungen, die lokale Inferenz, hybride lokale und Cloud-Verarbeitung und KI-Integration auf Betriebssystemebene verwenden. Die Breite dieses Ökosystems spiegelt den Ansatz von AMD zur KI-Aktivierung über mehrere Schichten des Software-Stacks wider, anstatt eine einzelne Anwendung oder einen Anwendungsfall zu unterstützen. Mit der Veröffentlichung zusätzlicher KI-fähiger Software wird die Unterstützung für AMD Ryzen AI durch Software-Updates und die Zusammenarbeit im Ökosystem weiter ausgebaut, sodass sich die Systeme an die Weiterentwicklung von KI-Modellen und -Auslastungen anpassen können.

Die lokale Ausführung von KI-Auslastungen auf dem PC kann eine geringere Latenz, eine verbesserte Reaktionsgeschwindigkeit und eine bessere Kontrolle über die Daten ermöglichen. Mit KI auf dem Gerät kann eine Inferenz ohne Abhängigkeit von Netzwerkkonnektivität oder Cloud-Services erfolgen, was für datenschutzsensible oder zeitkritische Aufgaben wichtig sein kann. Systeme auf Basis von AMD Ryzen AI unterstützen KI auf dem Gerät, indem Auslastungen über CPU, GPU und NPU verteilt werden. Die NPU ist so konzipiert, dass sie eine andauernde KI-Inferenz effizient bewältigt, wodurch der Stromverbrauch reduziert wird und gleichzeitig andere Systemressourcen verfügbar bleiben. Dieser Ansatz ermöglicht ein breiteres Spektrum von KI-Anwendungsfällen, die direkt auf dem PC ausgeführt werden können und Cloud-basierte Services ergänzen, anstatt sie zu ersetzen.