• 画像を拡大
    AMD Instinct MI350P PCIe Card
  • 画像を拡大
    AMD Instinct MI350P PCIe Card
  • AMD Instinct MI350P PCIe Card
  • AMD Instinct MI350P PCIe Card

AMD Instinct™ MI350P PCIe® カード

AMD Instinct™ MI350P PCIe® カードを使用して、既存のインフラストラクチャに生成 AI やエージェント型 AI を導入し、拡張できます。このカードは、高性能、業界をリードする低コスト、オープンでエンタープライズ対応の AI スタック、シンプルな導入を目的として設計されています。

  • タイトル
    AMD Instinct™ MI350P
    ファミリ
    Instinct
    シリーズ
    Instinct MI350 Series
    フォーム ファクター
    サーバー
  • GPU アーキテクチャ
    CDNA4
    Lithography
    TSMC 3nm | 6nm FinFET
    ストリーミング プロセッサ
    8,192
    マトリックス コア
    512
    演算ユニット
    128
    ピーク時エンジン クロック
    2200 MHz
    ピーク Microscaling 4 ビット精度マトリックス (MXFP4) 性能
    4.6 PFLOPs
    ピーク Microscaling 6 ビット精度マトリックス (MXFP6) 性能
    4.6 PFLOPs
    ピーク Microscaling 8 ビット精度マトリックス (MXFP8) 性能
    2.3 PFLOPs
    ピーク Open Compute Project 8 ビット精度マトリックス (OCP FP8) 性能 (E5M2、E4M3)
    2.3 PFLOPs
    ピーク Open Compute Project 8 ビット精度マトリックス (OCP FP8) 性能 (構造化スパース性対応)
    4.6 PFLOPs
    ピーク半精度マトリックス (FP16) 性能
    1.15 PFLOPs
    ピーク半精度マトリックス (FP16) 性能 (構造化スパース性対応)
    2.3 PFLOPs
    半精度 (FP16) ピーク性能
    72 TFLOPs
    単精度マトリックス (FP32) ピーク性能
    72 TFLOPs
    単精度 (FP32) ピーク性能
    72 TFLOPs
    倍精度マトリックス (FP64) ピーク性能
    36 TFLOPs
    倍精度 (FP64) ピーク性能
    36 TFLOPs
    ピーク INT8 マトリックス性能
    2.3 POPs
    ピーク INT8 マトリックス性能 (構造化スパース性対応)
    4.6 POPs
    ピーク bfloat16 マトリックス性能
    1.15 PFLOPs
    ピーク bfloat16 マトリックス性能 (構造化スパース性対応)
    2.3 PFLOPs
    トランジスタ数
    73 Billion
    OS サポート
    Linux x86 64-Bit
  • 外部電源コネクタ
    12V-2x6
    標準ボード電力 (TBP)
    600W TBP (Max); 450W TBP configurable
  • ラスト レベル キャッシュ (LLC)
    128 MB
    専用メモリ サイズ
    144 GB
    専用メモリ タイプ
    HBM3E
    Infinity Cache
    はい
    メモリ インターフェイス
    4096ビット
    ピーク メモリ帯域幅
    4 TB/s
    メモリ ECC サポート
    〇 (フルチップ)
  • GPU フォーム ファクター
    PCIe® アドイン カード
    バス タイプ
    PCIe® 5.0 x16
    冷却
    パッシブ
  • ボードの高さ
    フル ハイト
    ボードの長さ
    10.5" (267 mm)
    ボードの幅
    ダブル スロット
  • 対応テクノロジ
    AMD CDNA™ 4 Architecture , 4th Gen AMD Infinity Architecture , AMD ROCm™ - Ecosystem without Borders
    RAS サポート
    はい
    ページ リタイアメント
    はい
    ページ アボイダンス
    はい
    SR-IOV
    はい
  • OpenMP®
    はい
    OpenCL™
    はい
    HIP
    はい
    ROCm™ Open Ecosystem

    Yes

  • TensorFlow
    はい
    PyTorch
    はい
    ONYX-RT
    はい
    SGLang
    はい
    JAX
    はい
    Triton
    はい
    Kokkos
    はい
    RAJA
    はい