• 이미지 확대
    Add Alt Text

AMD Instinct™ MI325X 가속기

AMD Instinct™ MI325X GPU 가속기는 새로운 AI 성능 표준을 설정하여 학습 및 추론을 위한 놀라운 성능과 효율성을 제공합니다.

  • 이름
    AMD Instinct™ MI325X
    제품군
    Instinct
    시리즈
    Instinct MI300 Series
    폼 팩터
    서버
    출시일
    10/10/2024
  • GPU 아키텍처
    CDNA3
    리소그래피
    TSMC 5nm | 6nm FinFET
    스트리밍 프로세서
    19,456
    매트릭스 코어
    1216
    컴퓨팅 유닛
    304
    피크 엔진 클럭
    2100 MHz
    Peak Eight-bit Precision (FP8) Performance (E5M2, E4M3)
    2.61 PFLOPs
    구조화된 스파시티를 통한 피크 8비트 정도(FP8) 성능(E5M2, E4M3)
    5.22 PFLOPs
    피크 반정도(FP16) 성능
    1.3 PFLOPs
    구조화된 스파시티를 통한 피크 반정도(FP16) 성능
    2.61 PFLOPs
    피크 단정도(TF32 매트릭스) 성능
    653.7 TFLOPs
    구조화된 스파시티를 통한 피크 단정도(TF32) 성능
    1.3 PFLOPs
    피크 단정도 매트릭스(FP32) 성능
    163.4 TFLOPs
    피크 단정도(FP32) 성능
    163.4 TFLOPs
    피크 배정도 매트릭스(FP64) 성능
    163.4 TFLOPs
    피크 배정도(FP64) 성능
    81.7 TFLOPs
    피크 INT8 성능
    2.6 POPs
    구조화된 스파시티를 통한 피크 INT8 성능
    5.22 POPs
    피크 bfloat16
    1.3 PFLOPs
    구조화된 스파시티를 통한 피크 bfloat16
    2.61 PFLOPs
    트랜지스터 수
    153 Billion
  • 외부 전력 커넥터
    54V UBB
    일반 보드 전력(TBP)
    1000W Peak
  • 라스트 레벨 캐시(LLC)
    256 MB
    전용 메모리 크기
    256 GB
    전용 메모리 유형
    HBM3E
    Infinity Cache
    메모리 인터페이스
    8192비트
    메모리 클럭
    6 GHz
    피크 메모리 대역폭
    6 TB/s
    메모리 ECC 지원
    예(칩 전체)
  • GPU 폼 팩터
    OAM 모듈
    버스 유형
    PCIe® 5.0 x16
    Infinity Fabric™ 링크
    8
    최대 Infinity Fabric™ 링크 대역폭
    128 GB/s
    냉각
    패시브 OAM
  • 지원 기술
    AMD CDNA™ 3 Architecture , AMD ROCm™ - Ecosystem without Borders , AMD Infinity Architecture
    RAS 지원
    페이지 폐기
    페이지 회피
    SR-IOV