-
- Name
- AMD Instinct™ MI350P
- Familie
- Instinct
- Serie
- Instinct MI350 Series
- Bauform
- Server
-
- GPU-Architektur
- CDNA4
- Lithografie
- TSMC 3nm | 6nm FinFET
- Stream-Prozessoren
- 8,192
- Matrix-Kerne
- 512
- Recheneinheiten
- 128
- Max. Speichertakt
- 2200 MHz
- Max. Matrix-Performance bei Vier-Bit-Genauigkeit und Mikroskalierung (MXFP4)
- 4.6 PFLOPs
- Max. Matrix-Performance bei Sechs-Bit-Genauigkeit und Mikroskalierung (MXFP6)
- 4.6 PFLOPs
- Max. Matrix-Performance bei Acht-Bit-Genauigkeit und Mikroskalierung (MXFP8)
- 2.3 PFLOPs
- Maximale Open-Compute-Projekt Matrix-Performance bei Acht-Bit-Genauigkeit (OCP FP8) (E5M2, E4M3)
- 2.3 PFLOPs
- Max. Open-Compute-Projekt Matrix-Performance bei bei Acht-Bit-Genauigkeit (OCP FP8) mit strukturierter Sparsity
- 4.6 PFLOPs
- Max. Matrix-Performance bei halber Genauigkeit (FP16)
- 1.15 PFLOPs
- Max. Matrix-Performance bei halber Genauigkeit (FP16) mit strukturierter Sparsity
- 2.3 PFLOPs
- Max. Performance halbe Genauigkeit (FP16)
- 72 TFLOPs
- Max. Performance einfache Genauigkeit Matrix (FP32)
- 72 TFLOPs
- Max. Performance einfache Genauigkeit (FP32)
- 72 TFLOPs
- Max. Performance doppelte Genauigkeit Matrix (FP64)
- 36 TFLOPs
- Max. Performance doppelte Genauigkeit (FP64)
- 36 TFLOPs
- Max. Matrix-Performance bei INT8
- 2.3 POPs
- Max. Matrix-Performance bei INT8 mit strukturierter Sparsity
- 4.6 POPs
- Max. Matrix-Performance bei bfloat16
- 1.15 PFLOPs
- Max. Matrix-Performance bei bfloat16 mit strukturierter Sparsity
- 2.3 PFLOPs
- Transistoranzahl
- 73 Billion
- Betriebssystemunterstützung
- Linux x86 64-Bit
-
- Externe Stromanschlüsse
- 12V-2x6
- Typische Platinenleistung (TBP)
- 600W TBP (Max); 450W TBP configurable
-
- Last Level Cache (LLC)
- 128 MB
- Dedizierte Speichergröße
- 144 GB
- Dedizierter Speichertyp
- HBM3E
- Infinity Cache
- Ja
- Speicherschnittstelle
- 4096-Bit
- Max. Speicherbandbreite
- 4 TB/s
- Speicher-ECC-Unterstützung
- Ja (Full-Chip)
-
- GPU-Bauform
- PCIe®-Erweiterungskarte
- Bustyp
- PCIe® 5.0 x16
- Kühlung
- Passiv
-
- Höhe Platine
- Vollständige Höhe
- Länge Platine
- 10.5" (267 mm)
- Breite Platine
- Doppelsteckplatz
-
- Unterstützte Technologien
- AMD CDNA™ 4 Architecture , 4th Gen AMD Infinity Architecture , AMD ROCm™ - Ecosystem without Borders
- RAS-Unterstützung
- Ja
- Seiteneinstellung
- Ja
- Seitenvermeidung
- Ja
- SR-IOV
- Ja
-
- OpenMP®
- Ja
- OpenCL™
- Ja
- HIP
- Ja
- ROCm™ Open Ecosystem
-
Yes
-
- TensorFlow
- Ja
- PyTorch
- Ja
- ONYX-RT
- Ja
- SGLang
- Ja
- JAX
- Ja
- Triton
- Ja
- Kokkos
- Ja
- RAJA
- Ja
AMD Instinct™ MI350P PCIe® Karten
Implementieren und skalieren Sie generative und agentische KI innerhalb Ihrer bestehenden Infrastruktur mit AMD Instinct™ MI350P PCIe® Karten – entwickelt für hohe Performance, wettbewerbsfähige Preise, einen offenen, unternehmensfähigen KI-Stack und eine einfache Bereitstellung.
