• 이미지 확대
    Add Alt Text

AMD Instinct™ MI300X 가속기

AMD Instinct™ MI300X 가속기는 생성형 AI 워크로드 및 HPC 애플리케이션에 최고의 성능을 제공하도록 설계되었습니다.

  • 이름
    AMD Instinct™ MI300X
    제품군
    Instinct
    시리즈
    Instinct MI300 Series
    폼 팩터
    서버
    출시일
    12/06/2023
  • GPU 아키텍처
    CDNA3
    리소그래피
    TSMC 5nm | 6nm FinFET
    스트리밍 프로세서
    19,456
    매트릭스 코어
    1216
    컴퓨팅 유닛
    304
    피크 엔진 클럭
    2100 MHz
    Peak Eight-bit Precision (FP8) Performance (E5M2, E4M3)
    2.61 PFLOPs
    구조화된 스파시티를 통한 피크 8비트 정도(FP8) 성능(E5M2, E4M3)
    5.22 PFLOPs
    피크 반정도(FP16) 성능
    1.3 PFLOPs
    구조화된 스파시티를 통한 피크 반정도(FP16) 성능
    2.61 PFLOPs
    피크 단정도(TF32 매트릭스) 성능
    653.7 TFLOPs
    구조화된 스파시티를 통한 피크 단정도(TF32) 성능
    1.3 PFLOPs
    피크 단정도 매트릭스(FP32) 성능
    163.4 TFLOPs
    피크 단정도(FP32) 성능
    163.4 TFLOPs
    피크 배정도 매트릭스(FP64) 성능
    163.4 TFLOPs
    피크 배정도(FP64) 성능
    81.7 TFLOPs
    피크 INT8 성능
    2.6 POPs
    구조화된 스파시티를 통한 피크 INT8 성능
    5.22 POPs
    피크 bfloat16
    1.3 PFLOPs
    구조화된 스파시티를 통한 피크 bfloat16
    2.61 PFLOPs
    트랜지스터 수
    153 Billion
  • 외부 전력 커넥터
    54V UBB
    일반 보드 전력(TBP)
    750W Peak
  • 라스트 레벨 캐시(LLC)
    256 MB
    전용 메모리 크기
    192 GB
    전용 메모리 유형
    HBM3
    Infinity Cache
    메모리 인터페이스
    8192비트
    메모리 클럭
    5.2 GHz
    피크 메모리 대역폭
    5.3 TB/s
    메모리 ECC 지원
    예(칩 전체)
  • GPU 폼 팩터
    OAM 모듈
    버스 유형
    PCIe® 5.0 x16
    Infinity Fabric™ 링크
    8
    최대 Infinity Fabric™ 링크 대역폭
    128 GB/s
    냉각
    패시브 OAM
  • 지원 기술
    AMD CDNA™ 3 Architecture , AMD ROCm™ - Ecosystem without Borders , AMD Infinity Architecture
    RAS 지원
    페이지 폐기
    페이지 회피
    SR-IOV