Übersicht
Die KI-Ära entwickelt sich weiter, schafft Anforderungen an eine neue Rechenklasse und verändert die CPU-/GPU-Gleichung. Generative KI führte Systeme ein, die auf Basis einer Prompt-Antwort-Schleife logisch denken und reagieren können. Agentische KI erweitert diese Systeme, um Aufgaben eigenständig zu planen, auszuführen und abzuschließen. AMD EPYC™ Server-CPUs bereiten Ihr Rechenzentrum auf die Ära der agentischen KI vor.
Agentische KI verändert die Anforderungen von Rechenzentren
Madhusudhan Rangarajan, CVP Compute and Enterprise AI bei AMD, erklärt, wie agentische KI-Systeme funktionieren und warum sie das Rechenzentrum transformieren und die Rollen von CPUs und GPUs neu gestalten werden.
Der agentische Workflow im Detail
Agentische KI ist eine Pipeline unterschiedlicher Rechnerstufen
Vom Gateway bis zur Antwort stellt jede Phase eindeutige Anforderungen an die CPU. Agentische KI durchläuft kontinuierlich Rechen-, Speicher-, E/A-, Sicherheits- und beschleunigungsintensive Phasen.
Empfohlene Ressourcen
Wir verraten Ihnen, warum agentische Workflows den CPU-Bedarf erhöhen.
CPU-Rollen
Bei der Skalierung von agentischer KI verwendet jeder Agent mehrere CPUs, um Aufgaben zu koordinieren, Speicher zu verwalten, sich mit Unternehmenssoftware zu verbinden und den Datenfluss zu verwalten. Dadurch wird der CPU-Bedarf insgesamt gesteigert. Das umfassende AMD EPYC™ Server CPU-Portfolio erfüllt diese Anforderungen in drei unterschiedlichen Rollen: Skalierung von Agent-Sandboxes, Maximierung des Durchsatzes von KI-Host-Knoten und Versorgung der allgemeinen Workloads, die Agenten für die Arbeit benötigen.
Agent-Sandbox-CPU
Optimieren Sie die Kapazität für den Betrieb von KI-Agenten, um mit AMD EPYC Server-CPUs möglichst viele Agenten pro Watt, pro Dollar und pro Rack bereitzustellen – dank der branchenführenden Performance pro Watt, der höchsten Anzahl von Threads pro Dollar und der höchsten Threaddichte pro Rack.2,3
KI-Host-Knoten-CPU
Maximieren Sie die GPU-Auslastung und steigern Sie die Tokengenerierung mit AMD EPYC Server-CPUs mit hoher Frequenz, um eine außergewöhnliche GPU-Effizienz und eine hohe Performance pro Kern zu ermöglichen.
Universelle CPU
Orchestrieren Sie Planung, Einsatz von Tools und Subagenten mit einem breiten Portfolio von AMD EPYC Server-CPUs, das entwickelt wurde, um die branchenführende Performance für allgemeine Workloads von Datenbanken, Speicher, Rechenleistung und Suche zu erweitern.
AMD EPYC Server-CPUs für agentische KI
Das weltweit beste Server-CPU-Portfolio für die Ära der agentischen KI
AMD EPYC™ Server-CPUs bieten die beste Lösung für agentische KI mit branchenführender Performance, Energieeffizienz sowie Kern- und Threaddichte, um viele Agenten parallel zu betreiben und gleichzeitig Ihre Gesamtbetriebskosten (TCO) zu optimieren.
Portfolio
Entdecken Sie das weltweit umfangreichste Server-CPU-Portfolio für agentische KI für Ihre Anforderungen.
Blogs
Häufig gestellte Fragen
Agentische KI funktioniert in der Regel durch die Kombination von logischem Denken, Planung, Tool-Einsatz, Speicher und Feedback. Ein KI-Agent erhält ein Ziel, erstellt einen Plan, wählt die richtigen Tools oder Datenquellen aus, führt Aktionen aus, prüft das Ergebnis und nimmt die erforderlichen Anpassungen vor. Je nach Anwendungsfall kann er eine Verbindung zu Geschäftsanwendungen, Datenbanken, APIs, E-Mail-Programmen, Chat-Plattformen oder Workflow-Systemen herstellen.
Generative KI erstellt Inhalte wie Text, Bilder, Code, Zusammenfassungen oder Empfehlungen. Agentische KI geht noch weiter, indem sie eigenständig aktiv wird. Sie kann ein Ziel in Schritte unterteilen, entscheiden, was als Nächstes zu tun ist, Softwaretools verwenden, Informationen abrufen, Aufgaben abschließen und den Fortschritt überwachen. In den meisten Fällen verwendet agentische KI generative KI, um die Intelligenz als Teil des größeren Workflows bereitzustellen.
Agentische KI kann komplexe Workflows über viele Geschäftsfunktionen hinweg unterstützen. Häufige Anwendungsfälle umfassen Kundendienst, Vertriebsunterstützung, Forschung, Softwareentwicklung, Datenanalyse, IT-Betrieb, Marketing, HR, Finanzen und Back-Office-Automatisierung. Ein KI-Agent könnte beispielsweise einen potenziellen Kunden recherchieren, ein CRM aktualisieren, eine Folge-E-Mail verfassen und den nächsten Schritt planen.
Agentische KI kann Organisationen dabei unterstützen, die Produktivität zu steigern, sich wiederholende Arbeit zu reduzieren, Entscheidungen zu beschleunigen und die Kunden- und Mitarbeitererfahrung zu verbessern. Da sie mehrstufige Prozesse verwalten kann, ist sie besonders für Arbeiten nützlich, die eine Koordination über Systeme, Teams oder Datenquellen hinweg erfordern. Darüber hinaus kann sie Mitarbeitern helfen, sich auf höherwertige Aufgaben zu konzentrieren, indem sie routinemäßige oder zeitaufwändige Aktivitäten erledigt.
Agentische KI kann sicher und effektiv sein, wenn sie mit den richtigen Kontrollen entwickelt wird. Wichtige Sicherheitsvorkehrungen umfassen menschliche Aufsicht, klare Berechtigungen, Datensicherheit, Audit-Trails, Tests, Genehmigungs-Workflows und Grenzen für die Aktionen, die ein Agent durchführen kann.
Ressourcen
Fußnoten
- EPYC-068 – Das AMD EPYC Server-CPU-Portfolio umfasst die branchenweit umfangreichste Palette von Rechenzentren, von allgemeinen Enterprise-, Cloud-, Telekommunikations-, KMU- und HPC-Systemen bis hin zu neu entstehenden KI-Umgebungen, einschließlich Sandbox-basierter agentischer KI-Bereitstellungen und GPU-Head-Node-Servern. AMD EPYC Plattformen der 6. Generation erweitern diese Bandbreite durch die einzigartige Kombination von hoher Core- und Threaddichte von bis zu 512 Threads, erweiterter Speicherbandbreite von bis zu 16 Kanälen mit MRDIMM-Unterstützung von 12,8 GT/s, PCIe® Gen 6-Konnektivität der nächsten Generation und ausgewählten SKUs mit Boost-Frequenzen bis zu 5 GHz.
- 9xx6-013: Der Vergleich basiert auf den veröffentlichten Top-of-Stack-Kernzahlen und 1Ku-Preisen für die geschätzten höchsten Agenten/CPU-$ und Threads/CPU-$ bei AMD EPYC™ 9006 (512 Threads), AMD EPYC™ 9005 (384 Threads) und Intel® Xeon® 6 (256 Threads) SKUs vom 22.7.2026. Threads werden als 2 Threads pro Kern (SMT) abgeleitet. Intel und Xeon sind Marken der Intel Corporation oder ihrer Tochtergesellschaften.
Quelle: https://www.amd.com/content/dam/amd/en/documents/solutions/ai/methodology-description.pdf
Bei der Agent-Anzahl handelt es sich um Schätzungen, die von verfügbaren CPU-Thread-Ressourcen abgeleitet werden, die als Proxy unter einem konsistenten theoretischen Workload verwendet werden. Die tatsächliche Agentenkapazität und der tatsächliche Durchsatz variieren je nach Workload, Modell, Speicher, Software, Orchestrierung und Systemkonfiguration.
- 9xx6-005A: vCPU-Unterstützung basierend auf der Threadanzahl, bei der Top of Stack EPYC 9996 CPU der 6. Generation mit 256 Kernen (512 Threads) und EPYC 9965 der 5. Generation mit 192 Kernen (384 Threads) verglichen wird. Im Vergleich dazu ist der Intel Xeon 6990E mit 288 Threads der Intel® Xeon® Prozessor mit der höchsten Threadanzahl, und die Nvidia CPU mit der höchsten Threadanzahl ist die Nvidia Vera CPU mit 88 Kernen (176 Threads).
Zum Vergleich: Intel Xeon CPUs der 6. Generation unterstützen das bis zu ~0,8-Fache, ARM AGI das bis zu ~0,7-Fache und Nvidia Vera voraussichtlich das bis zu ~0,5-Fache der Threads der AMD EPYC CPUs der 5. Generation.
- EPYC-068 – Das AMD EPYC Server-CPU-Portfolio umfasst die branchenweit umfangreichste Palette von Rechenzentren, von allgemeinen Enterprise-, Cloud-, Telekommunikations-, KMU- und HPC-Systemen bis hin zu neu entstehenden KI-Umgebungen, einschließlich Sandbox-basierter agentischer KI-Bereitstellungen und GPU-Head-Node-Servern. AMD EPYC Plattformen der 6. Generation erweitern diese Bandbreite durch die einzigartige Kombination von hoher Core- und Threaddichte von bis zu 512 Threads, erweiterter Speicherbandbreite von bis zu 16 Kanälen mit MRDIMM-Unterstützung von 12,8 GT/s, PCIe® Gen 6-Konnektivität der nächsten Generation und ausgewählten SKUs mit Boost-Frequenzen bis zu 5 GHz.
- 9xx6-013: Der Vergleich basiert auf den veröffentlichten Top-of-Stack-Kernzahlen und 1Ku-Preisen für die geschätzten höchsten Agenten/CPU-$ und Threads/CPU-$ bei AMD EPYC™ 9006 (512 Threads), AMD EPYC™ 9005 (384 Threads) und Intel® Xeon® 6 (256 Threads) SKUs vom 22.7.2026. Threads werden als 2 Threads pro Kern (SMT) abgeleitet. Intel und Xeon sind Marken der Intel Corporation oder ihrer Tochtergesellschaften.
Quelle: https://www.amd.com/content/dam/amd/en/documents/solutions/ai/methodology-description.pdf
Bei der Agent-Anzahl handelt es sich um Schätzungen, die von verfügbaren CPU-Thread-Ressourcen abgeleitet werden, die als Proxy unter einem konsistenten theoretischen Workload verwendet werden. Die tatsächliche Agentenkapazität und der tatsächliche Durchsatz variieren je nach Workload, Modell, Speicher, Software, Orchestrierung und Systemkonfiguration. - 9xx6-005A: vCPU-Unterstützung basierend auf der Threadanzahl, bei der Top of Stack EPYC 9996 CPU der 6. Generation mit 256 Kernen (512 Threads) und EPYC 9965 der 5. Generation mit 192 Kernen (384 Threads) verglichen wird. Im Vergleich dazu ist der Intel Xeon 6990E mit 288 Threads der Intel® Xeon® Prozessor mit der höchsten Threadanzahl, und die Nvidia CPU mit der höchsten Threadanzahl ist die Nvidia Vera CPU mit 88 Kernen (176 Threads).
Zum Vergleich: Intel Xeon CPUs der 6. Generation unterstützen das bis zu ~0,8-Fache, ARM AGI das bis zu ~0,7-Fache und Nvidia Vera voraussichtlich das bis zu ~0,5-Fache der Threads der AMD EPYC CPUs der 5. Generation.