AMD EPYC™ 9004 prozessorbasierte Server und Cloud-Instanzen ermöglichen eine schnelle, effiziente AI Inference in unmittelbarer Nähe zu Ihren Unternehmensdaten und fördern so eine transformative Geschäftsperformance.
Erfahren Sie, wie AMD EPYC™ 9004-Serie Prozessoren Sie in die Lage versetzen, CPU-basierte KI-Verarbeitung zu implementieren, die effizient für kleine KI-Modelle, viele klassische ML- und Inferenz-Auslastungen sowie traditionelle Computing-Auslastungen ist, die durch KI erweitert werden.
AI Inference verwendet ein trainiertes KI-Modell, um Vorhersagen für neue Daten zu treffen. AMD bietet eine Reihe von Lösungen für AI Inference, je nach Modellgröße und Anwendungsanforderungen. AMD EPYC™ CPUs eignen sich hervorragend für kleine bis mittlere KI-Modelle und Auslastungen, bei denen die Nähe zu den Daten wichtig ist. AMD Instinct™ GPUs eignen sich für große Modelle und dedizierte KI-Bereitstellungen, die eine sehr hohe Performance und Skalierung erfordern. Beide bieten beeindruckende Performance und Effizienz, sodass Sie die richtige Lösung für Ihre Anforderungen wählen können.
| Modellgröße | Typ | Vorteile | Nachteile | Typische Anwendungsfälle |
| Klein | Klassisch |
|
|
|
| Generativ |
|
|
|
| Modellgröße | Typ | Vorteile | Nachteile | Typische Anwendungsfälle |
| Mittel | Klassisch |
|
|
|
| Prädiktiv |
|
|
|
| Modellgröße | Typ | Vorteile | Nachteile | Typische Anwendungsfälle |
| Groß | Generativ |
|
|
|
| Klassisch |
|
|
|
|
| Prädiktiv |
|
|
|
KI-Modelle, die in Computer-Vision-, Natural-Language-Processing- und Empfehlungssysteme integriert sind, haben einen erheblichen Einfluss auf Unternehmen in verschiedenen Branchen. Diese Modelle helfen Unternehmen, Objekte zu erkennen, Anomalien zu klassifizieren, geschriebene und gesprochene Wörter zu verstehen und Empfehlungen auszusprechen. Sie beschleunigen die Entwicklung dieser Modelle, wodurch Unternehmen unabhängig von ihrer Branche von den Vorteilen profitieren können.
Ob als reine CPU bereitgestellt oder als Host für GPUs verwendet, die größere Modelle ausführen – AMD EPYC™ 9004-Serie Prozessoren sind mit den neuesten offenen Standardtechnologien ausgestattet, um AI Inference Auslastungen in Unternehmen zu beschleunigen.
Bis zu 128 AMD „Zen 4“ Kerne mit AVX-512-Befehlsunterstützung bieten eine hohe Parallelität für AI Inference Auslastungen und reduzieren den Bedarf an GPU-Beschleunigung.
Außergewöhnliche Energieeffizienz: AMD EPYC™ Prozessoren treiben die energieeffizientesten Server an, bieten eine herausragende Performance und helfen, die Energiekosten zu senken.1
Schnelle Verarbeitung und E/A: 14 % mehr Befehle pro Taktzyklus, DDR5-Speicher und PCIe® Gen 5 I/O für schnelle Datenverarbeitung.2
Framework-Unterstützung: AMD unterstützt die gängigsten KI-Frameworks, darunter TensorFlow, PyTorch und ONNX Runtime, und deckt damit verschiedene Anwendungsfälle wie Bildklassifizierung und Empfehlungs-Engines ab.
Open Source und Kompatibilität: Optimierungen sind in gängige Frameworks integriert und bieten umfassende Kompatibilität und Open-Source-Upstream-Freundlichkeit. Darüber hinaus arbeitet AMD mit Hugging Face zusammen, um deren Open-Source-Modelle sofort mit ZenDNN nutzen zu können.
ZenDNN-Plug-ins: Diese Plug-ins beschleunigen AI Inference Auslastungen durch die Optimierung von Operatoren, die Nutzung von Mikrokernen und die Implementierung von effizientem Multithreading auf AMD EPYC Kernen.
Da die Digitalisierung, das Cloud-Computing, die KI und andere neue Technologien das Datenwachstum ankurbeln, wird der Bedarf an fortschrittlichen Sicherheitsmaßnahmen noch dringender. Dieses erhöhte Sicherheitsbedürfnis wird durch die zunehmende globale Bedeutung von Datenschutzbestimmungen und hohen Strafen für Datenschutzverletzungen noch verstärkt, was den beispiellosen Wert von Daten inmitten steigender Sicherheitsrisiken verdeutlicht.
AMD Infinity Guard ist auf Chipebene integriert und bietet die erweiterten Funktionen, die für den Schutz vor internen und externen Bedrohungen erforderlich sind. Ihre Daten bleiben somit sicher.3
