AMD Instinct™ MI325X Beschleuniger

AMD Instinct™ MI325X GPU-Beschleuniger setzen neue Standards bei KI-Performance. Dazu bieten sie unglaubliche Performance und Effizienz für Training und Inferenz.

AMD ROCm™ Software

Optimieren Sie GPU-beschleunigte Anwendungen mit AMD ROCm Software. Basiert auf einem Ansatz, dass sie einmal codiert werden muss und dann überall einsatzbereit ist.

ROCm Entwickler-Hub Über ROCm

AMD CDNA Architektur

Erfahren Sie mehr über die Architektur, auf der die AMD Instinct Beschleuniger beruhen.

CDNA entdecken

AMD Instinct Dokumentation

Dokumentationen über AMD Instinct Beschleuniger finden Sie auf dem Documentation Hub.

MI300X Datenblatt Dokumentation ansehen

Fußnoten

MI325-002 – Die vom AMD Leistungslabor am 28. Mai 2024 durchgeführten Berechnungen für die AMD Instinct™ MI325X GPU ergaben 1.307,4 TFLOPS theoretische Halbpräzision (FP16), 1.307,4 TFLOPS theoretische Spitzenpräzision im Bfloat16-Format (BF16), 2.614,9 TFLOPS theoretische Spitzenpräzision mit 8 Bit (FP8), 2.614,9 TOPs INT8-Gleitkommaleistung. Die tatsächliche Performance hängt von den endgültigen Spezifikationen und der Systemkonfiguration ab.
Veröffentlichte Ergebnisse für Nvidia H200 SXM (141 GB) GPU: 989,4 TFLOPS theoretische Spitzenleistung bei halber Genauigkeit des Tensors (FP16-Tensor), 989,4 TFLOPS theoretische Spitzenleistung bei Bfloat16-Tensorformat-Genauigkeit (BF16-Tensor), 1.978,9 TFLOPS theoretische Spitzenleistung bei 8-Bit-Genauigkeit (FP8), 1.978,9 TOPs theoretische Spitzenleistung bei INT8-Gleitkommaleistung. Die Performance von BFLOAT16 Tensor Core, FP16 Tensor Core, FP8 Tensor Core und INT8 Tensor Core wurde von Nvidia unter Verwendung von Sparsity veröffentlicht. Zum Vergleich hat AMD diese Zahlen durch Division durch 2 in Nicht-Sparsity/Dense umgewandelt. Diese Zahlen sind oben aufgeführt.
Quelle Nvidia H200: https://nvdam.widen.net/s/nb5zzzsjdf/hpc-datasheet-sc23-h200-datasheet-3002446 und https://www.anandtech.com/show/21136/nvidia-at-sc23-h200-accelerator-with-hbm3e-and-jupiter-supercomputer-for-2024
Hinweis: Nvidia H200 GPUs haben die gleiche veröffentlichte FLOPs-Performance wie H100-Produkte https://resources.nvidia.com/en-us-tensor-core/. MI325-02
MI325-008 – Die vom AMD Leistungslabor am 2. Oktober 2024 durchgeführten Berechnungen für die AMD Instinct™ MI325X (1000 W) GPU, die mit der AMD CDNA™ 3 5-nm-/6-nm-FinFET-Prozesstechnologie bei 2.100 MHz Spitzen-Boost-Speichertakt entwickelt wurde, ergaben 163,4 TFLOPs theoretische Spitzen-Matrix mit doppelter Genauigkeit (FP64-Matrix), 81,7 TFLOPs theoretischer Spitzenwert mit doppelter Genauigkeit (FP64), 163,4 TFLOPs theoretische Spitzen-Matrix mit einfacher Genauigkeit (FP32-Matrix), 163,4 TFLOPs theoretischer Spitzenwert bei einfacher Genauigkeit (FP32), 653,7 TFLOPS theoretischer Spitzenwert bei TensorFloat-32 (TF32), 1.307,4 TFLOPS theoretischer Spitzenwert bei halber Genauigkeit (FP16). Die tatsächliche Performance kann je nach endgültigen Spezifikationen und Systemkonfiguration variieren.
Veröffentlichte Ergebnisse für Nvidia H200 SXM (141 GB) GPU: 66,9 TFLOPs theoretische Spitzenleistung bei doppelter Genauigkeit Tensor (FP64-Tensor), 33,5 TFLOPs theoretische Spitzenleistung bei doppelter Genauigkeit (FP64), 66,9 TFLOPs theoretische Spitzenleistung bei einfacher Genauigkeit (FP32), 494,7 TFLOPs Spitzenleistung TensorFloat-32 (TF32), 989,5 TFLOPS theoretische Spitzenleistung bei halber Genauigkeit Tensor (FP16-Tensor). Die Performance des TF32-Tensor-Core wurde von Nvidia unter Verwendung von Sparsity veröffentlicht. Zum Vergleich hat AMD diese Zahlen durch Division durch 2 in Nicht-Sparsity/Dense umgewandelt. Diese Zahl ist oben aufgeführt.
Quelle Nvidia H200: https://nvdam.widen.net/s/nb5zzzsjdf/hpc-datasheet-sc23-h200-datasheet-3002446 und https://www.anandtech.com/show/21136/nvidia-at-sc23-h200-accelerator-with-hbm3e-and-jupiter-supercomputer-for-2024
Hinweis: Nvidia H200 GPUs haben die gleiche veröffentlichte FLOPs-Performance wie H100-Produkte https://resources.nvidia.com/en-us-tensor-core/.
* Nvidia H200 GPUs unterstützen nicht FP32 Tensor.
MI325-001A – Berechnungen durchgeführt vom AMD Leistungslabor am 26. September 2024 basierend auf aktuellen Spezifikationen und/oder Schätzungen. Der AMD Instinct™ MI325X OAM Beschleuniger wird über eine HBM3E-Speicherkapazität von 256 GB und eine theoretische GPU-Speicherbandbreite von 6 TB/s verfügen. Die tatsächlichen Ergebnisse auf Basis von Chips aus der Produktion können abweichen.
Die höchsten veröffentlichten Ergebnisse für den Nvidia Hopper H200 (141 GB) SXM-GPU-Beschleuniger ergaben eine Speicherkapazität von 141 GB HBM3E und eine GPU-Speicherbandbreite von 4,8 TB/s. https://nvdam.widen.net/s/nb5zzzsjdf/hpc-datasheet-sc23-h200-datasheet-3002446
Die höchsten veröffentlichten Ergebnisse für den Nvidia Blackwell HGX B100 (192 GB) 700-W-GPU-Beschleuniger ergaben eine HBM3E-Speicherkapazität von 192 GB und eine GPU-Speicherbandbreiten-Performance von 8 TB/s.
Die höchsten veröffentlichten Ergebnisse für den Nvidia Blackwell HGX B200 (192 GB) GPU-Beschleuniger ergaben eine HBM3E-Speicherkapazität von 192 GB und eine GPU-Speicherbandbreiten-Performance von 8 TB/s.
Nvidia Blackwell-Spezifikationen unter https://resources.nvidia.com/en-us-blackwell-architecture?_gl=1*1r4pme7*_gcl_aw*R0NMLjE3MTM5NjQ3NTAuQ2p3S0NBancyNkt4QmhCREVpd0F1NktYdDlweXY1dlUtaHNKNmhPdHM4UVdPSlM3dFdQaE40WkI4THZBaWFVajFy

Rechenzentrum

Business-Systeme

Personal Computing und Gaming

Embedded

Ressourcen

GPU-Beschleuniger

Adaptive Beschleuniger

DPU-Beschleuniger

Ethernet-Adapter

Workstations

Desktops

Notebooks

Ressourcen

FPGAs und adaptive SoCs

Systemmodule (SOMs)

Technologien

Ressourcen für Entwickler

Probeplatinen und Bausätze

Prozessor-Tools

Grafik-Tools und -Apps

Tools für FPGAs und adaptive SoCs

Urheberrechte und Apps

Tools und Apps für GPU-Beschleuniger

Übersicht

Für Rechenzentren und die Cloud

Für Edge und Endpunkte

Für Entwickler

Branchen

Branchen

Branchen

Branchen

Industrias

Einsatzbereiche

Gaming

Systeme

Technologien

Ressourcen

EPYC Prozessoren

Radeon GPUs und AMD Chipsätze

FPGAs und adaptive SoCs

Alveo-Beschleuniger & Kria-SOMs

Ryzen Prozessoren

Ethernet-Adapter

Übersicht

Prozessoren

Beschleuniger

Adaptive SoCs, FPGAs und SOMs

Grafikprodukte

Übersicht

Ressourcen nach Produkt

Ressourcen nach Typ

Über unsere Partner

Weltweiter AMD Support

Prozessoren und Grafikprodukte

Beschleuniger

FPGAs und adaptive SoCs

Gaming und Personal Computing

Adaptive und Embedded Computing

Get AMD Fan Gear

Buy Direct From AMD

Buy Direct From AMD

Buy Direct From AMD

Buy Direct From AMD

Buy Direct From AMD

AMD Instinct™ MI325X Beschleuniger

Vergleiche der Spezifikationen

KI-Performance (max. TFLOPs)

HPC-Performance (max. TFLOPs)

Speicherkapazität und -bandbreite

Unterstützung und Ressourcen

AMD ROCm™ Software

AMD CDNA Architektur

AMD Instinct Dokumentation

Unternehmen

News und Veranstaltungen

Ressourcen

Partner

Investoren