-
- 이름
- AMD Instinct™ MI350P
- 제품군
- Instinct
- 시리즈
- Instinct MI350 Series
- 폼 팩터
- 서버
-
- GPU 아키텍처
- CDNA4
- 리소그래피
- TSMC 3nm | 6nm FinFET
- 스트리밍 프로세서
- 8,192
- 매트릭스 코어
- 512
- 컴퓨팅 유닛
- 128
- 피크 엔진 클럭
- 2200 MHz
- 최대 마이크로 스케일링 4비트 정밀도 Matrix(MXFP4) 성능
- 4.6 PFLOPs
- 최대 마이크로 스케일링 6비트 정밀도 Matrix(MXFP6) 성능
- 4.6 PFLOPs
- 최대 마이크로 스케일링 8비트 정밀도 Matrix(MXFP8) 성능
- 2.3 PFLOPs
- 최대 Open Compute Project 8비트 정밀도 Matrix (OCP FP8) 성능(E5M2, E4M3)
- 2.3 PFLOPs
- 구조화된 Sparsity를 통한 최대 Open Compute Project 8비트 정밀도 Matrix(OCP FP8) 성능
- 4.6 PFLOPs
- 최대 반정밀도 Matrix (FP16) 성능
- 1.15 PFLOPs
- 구조화된 Sparsity를 통한 최대 반정밀도 Matrix(FP16) 성능
- 2.3 PFLOPs
- 피크 반정도(FP16) 성능
- 72 TFLOPs
- 피크 단정도 매트릭스(FP32) 성능
- 72 TFLOPs
- 피크 단정도(FP32) 성능
- 72 TFLOPs
- 피크 배정도 매트릭스(FP64) 성능
- 36 TFLOPs
- 피크 배정도(FP64) 성능
- 36 TFLOPs
- 최대 INT8 Matrix 성능
- 2.3 POPs
- 구조화된 Sparsity를 통한 최대 INT8 Matrix 성능
- 4.6 POPs
- 최대 bfloat16 Matrix 성능
- 1.15 PFLOPs
- 구조화된 Sparsity를 통한 최대 bfloat16 Matrix 성능
- 2.3 PFLOPs
- 트랜지스터 수
- 73 Billion
- OS 지원
- Linux x86 64-Bit
-
- 외부 전력 커넥터
- 12V-2x6
- 일반 보드 전력(TBP)
- 600W TBP (Max); 450W TBP configurable
-
- 라스트 레벨 캐시(LLC)
- 128 MB
- 전용 메모리 크기
- 144 GB
- 전용 메모리 유형
- HBM3E
- Infinity Cache
- 예
- 메모리 인터페이스
- 4096비트
- 피크 메모리 대역폭
- 4 TB/s
- 메모리 ECC 지원
- 예(칩 전체)
-
- GPU 폼 팩터
- PCIe® 애드인 카드
- 버스 유형
- PCIe® 5.0 x16
- 냉각
- 패시브
-
- 보드 높이
- 전체 높이
- 보드 길이
- 10.5" (267 mm)
- 보드 너비
- 이중 슬롯
-
- 지원 기술
- AMD CDNA™ 4 Architecture , 4th Gen AMD Infinity Architecture , AMD ROCm™ - Ecosystem without Borders
- RAS 지원
- 예
- 페이지 폐기
- 예
- 페이지 회피
- 예
- SR-IOV
- 예
-
- OpenMP®
- 예
- OpenCL™
- 예
- HIP
- 예
- ROCm™ Open Ecosystem
-
Yes
-
- TensorFlow
- 예
- PyTorch
- 예
- ONYX-RT
- 예
- SGLang
- 예
- JAX
- 예
- Triton
- 예
- Kokkos
- 예
- RAJA
- 예
AMD Instinct™ MI350P PCIe® 카드
고성능, 리더십 비용, 개방형 엔터프라이즈급 AI 스택, 간단한 배포를 위해 설계된 AMD Instinct™ MI350P PCIe® 카드를 사용하여 기존 인프라에 생성형 AI와 에이전트 AI를 배포하고 확장하세요.
