Unterstützung der Kunden beim Aufbau der Infrastruktur für agentische KI

Die KI-Landschaft verändert sich erneut

Ihre Kunden betrachten die KI-Infrastruktur wahrscheinlich immer noch aus einer engen Perspektive, die auf ihrer bisherigen Nutzung von KI basiert: einzelne Anfragen und Antworten; Fragen wie z. B., welche GPUs verwendet werden sollen, wie viel Beschleunigerspeicher benötigt wird und welche Modelle sie ausführen möchten.

All dies sind wichtige Faktoren, aber das vollständige Bild ist größer geworden. Diese Fragen waren sinnvoll während der ersten Phase der Einführung von KI, als das Experimentieren im Vordergrund stand. Mit dem Aufkommen der agentischen KI hat sich die Diskussion über die Infrastruktur verändert. Dies bietet Partnern die Möglichkeit, Kunden dabei zu unterstützen, über eine rein GPU-basierte Sichtweise von KI hinauszugehen.

Wie sich KI-Workloads verändern

Künstliche Intelligenz entwickelt sich von einfachen LLM-basierten Frage-und-Antwort-Workloads hin zu kontinuierlichen, autonomen Workloads, dank derer die Kunden mit ihrer Infrastruktur viel mehr Dinge als zuvor tun und fortlaufende Operationen sowie Workloads ohne menschliche Eingaben durchführen können.

Agentische KI-Systeme können selbstständig planen, Informationen abrufen, Tools aufrufen, mit APIs interagieren, Zustände aktualisieren, Datenbanken abfragen, Workflows auslösen und mehrere Dienste koordinieren. Wenn diese Systeme in die Produktionsphase übergehen, benötigen Kunden eine Infrastruktur, die kontinuierliche, parallele und dienstintensive Arbeitsabläufe unterstützt – nicht nur die bisherigen, isolierten Modellinferenzen.

Während GPUs für das groß angelegte KI-Training und die Inferenz unverzichtbar bleiben und die für die Modellberechnung erforderliche Beschleunigungsleistung bieten, stellen sie in agentischen Umgebungen nur einen Teil des Gesamtsystems dar. Die Implementierung agentischer Workflows erfordert eine Kombination aus der Skalierung von Agenten-Sandboxes, der Maximierung des KI-Host-Knoten-Durchsatzes und der Unterstützung allgemeiner Workloads.

Ein Großteil dieser umgebenden Aufgaben wird von der CPU ausgeführt. Wenn die CPU nicht mithalten kann, führt dies bei den Kunden zu Engpässen, einer großen Latenz, einer geringen GPU-Nutzung oder einer ineffizienten Skalierung – selbst nach erheblichen Investitionen in Beschleuniger.

Eine ausgewogene KI-Plattform benötigt daher beide Komponenten: Beschleuniger für die Modellberechnung und leistungsstarke Server-CPUs für die Service-, Orchestrierungs- und Datenebenen, die die Nutzung agentischer KI in großem Maßstab ermöglichen.

Mit der Einführung der AMD EPYC™ 9006‑Serie Server-CPUs können Infrastrukturen weiterentwickelt werden, um diesen neuen Anforderungen gerecht zu werden und auch bei der Einführung von agentischer KI weiterhin Spitzenleistungen zu erbringen.

Das beste Server-CPU-Portfolio für das agentische Zeitalter¹

Mit den AMD EPYC 9006‑Serie Server-CPUs lassen sich Spitzenleistungen bei Workloads für agentische KI, Cloud sowie High-Performance-Computing in Unternehmen erreichen. Sie verfügen über bis zu 256 Kerne, 512 Threads und Taktraten von bis zu 5 GHz – und liefern eine herausragende Performance pro Kern für einen Server-Prozessor. Mit branchenführender PCIe® Gen 6 E/A und einer Speicherbandbreite von bis zu 1,6 TB/s pro Sockel setzen diese Prozessoren neue Maßstäbe für Kunden, die anspruchsvollste agentische Workflows nutzen möchten.

Für Kunden, die sich Sorgen um Upgrades machen, bieten AMD EPYC Server-CPUs bereits eine standardbasierte x86-Plattform für eine dichte und effiziente Serverinfrastruktur. Diese nächste CPU-Generation erweitert diese Roadmap für zukünftige Bereitstellungen, sodass Kunden nahtlos upgraden können, ohne ihre bestehenden Produktionsumgebungen zu beeinträchtigen.

Für Partner bietet diese neue Produktreihe drei klare Einstiegsmöglichkeiten für ein Gespräch mit Kunden über agentische KI: die Skalierung, die Maximierung des Durchsatzes und die Unterstützung allgemeiner Workloads rund um KI.

1. Skalierung

Für Kunden, die Sandbox-Umgebungen erstellen, Experimente mit mehreren Agenten durchführen oder agentische Dienste mit hoher Parallelität nutzen möchten, ist eine hohe Rechenleistung unerlässlich. Je mehr Agenten ein Kunde innerhalb seiner verfügbaren Leistung sowie Rack- und Budgetlimitierungen unterbringen kann, desto einfacher wird die Skalierung der KI-Einführung, ohne dabei untragbare Infrastrukturkosten oder Komplexität zu verursachen.

Die AMD EPYC 9006‑Serie Server-CPUs mit hoher Kernanzahl wurden speziell dafür entwickelt, diese Anforderung zu erfüllen. Sie bieten bis zu 33 % mehr Kerne als die vorherige Generation² und ermöglichen es Partnern so, die agentische Kapazität durch eine höhere Konzentration von Agenten direkt zu verbessern.

2. Maximierung des Durchsatzes

In Systemen mit vielen Beschleunigern spielen Server-CPUs weiterhin eine entscheidende Rolle. Sie versorgen die GPUs, koordinieren die Datenbewegung, unterstützen E/A-Prozesse, führen Host-seitige Dienste aus und minimieren die Reibung zwischen der Modellausführung und der größeren Anwendungsumgebung.

Die Hochfrequenz-Server-CPUs der AMD EPYC 9006‑Serie verfügen über branchenführende PCIe® Gen 6 E/A-Subsysteme, die im Vergleich zur vorherigen Generation eine doppelt so hohe Bandbreite pro Lane³ und eine Speicherbandbreite von bis zu 1,6 TB/s pro Sockel bieten. Dies hilft dabei, Engpässe auf Host-Seite zu reduzieren und eine schnelle Datenbewegung im gesamten System zu gewährleisten.

Für Kunden, die eine maximale GPU-Nutzung und Token-Generierung anstreben, sorgen diese CPUs dafür, dass die Host-Plattform mit der Performance der Beschleuniger Schritt halten kann, von der die KI-Workloads abhängen.

3. KI-Dienste für allgemeine Zwecke

Viele Workloads von Kunden lassen sich nicht eindeutig einer einzigen KI-Kategorie zuordnen. Die Anwendungsfälle umfassen Datenbanken, Speicherdienste, CPU-basierte Inferenzen, Orchestrierungslogik, Analysen, Middleware, Sicherheit und vieles mehr. Genau diese Art von allgemeinen Workloads macht die agentische KI zu einer so leistungsstarken Ergänzung bei der Bewältigung moderner Geschäftsworkloads.

In dem umfassenden Portfolio der Server-CPUs der AMD EPYC 9006‑Serie können Partnern den passenden Prozessor aus der Produktfamilie für die Anforderungen ihrer Kunden finden. Außerdem können sie CPU-Inferenz für kleine und mittelgroße Sprachmodelle, die Orchestrierung für die Planung und Tool-Nutzung sowie die Unterstützung vertraulicher KI-Umgebungen mit AMD Sicherheitstechnologien wie AMD SVV und vertrauenswürdigen E/A-Funktionen bereitstellen.

Für Kunden, die ihre bestehende Unternehmensinfrastruktur modernisieren und gleichzeitig künstliche Intelligenz einführen, bietet der Umstieg auf die Server-CPUs der AMD EPYC 9006‑Serie den Vorteil, dass die x86-Plattform, auf der ihre Software basiert, erhalten bleibt. Dies reduziert Migrationsprobleme und verkürzt den Weg von der KI-Planung bis zur Bereitstellung.