AMD Instinct™ MI350 시리즈 GPU

새로운 기준 제시

AMD Instinct™ 가속기는 출시 이래로 데이터 센터 고객 및 AI의 잠재력을 활용하려는 기업들에게 성능, 효율성, 확장성을 제공해 왔습니다. 각 세대는 새로운 기준을 제시하고 업계 최고 수준의 사양을 제공하면서 성능 최적화와 총 소유 비용(TCO) 절감에 기여했습니다.¹

최근의 Advancing AI 이벤트에서 AMD Instinct™ MI350 시리즈 GPU를 출시한 AMD는 다시 한번 기대를 높이고 있습니다.

AI 기반, 고성능 컴퓨팅 최적화, 최고의 성능

지금이 바로 고객들에게 새로운 AMD Instinct™ MI350X 및 AMD Instinct™ MI355X GPU와 플랫폼을 소개할 때입니다. 각 제품은 최신 4세대 AMD CDNA™ 아키텍처 기반으로 설계되었으며 최대 288GB HBM3E 메모리 용량과 8TB/s의 대역폭을 자랑합니다. 대규모 AI 학습 및 고속 추론에서 복잡한 고성능 컴퓨팅 워크로드에 이르는 모든 작업을 위해 설계된 AMD Instinct MI350X GPU는 Nvidia의 B200 플랫폼 대비 최대 2.05배의 FP6 성능²을 제공하며, AMD Instinct MI355X GPU는 GB200 대비 2배의 FP6 성능 우위³로 대규모 환경에서도 밀도, 효율성, 처리율 측면에서 새로운 기준을 제시합니다.

고객 및 인프라 수요가 증가함에 따라 AMD는 이에 대응하기 위해 이 가속기를 설계했습니다. 새로운 공기 냉각식 GPU는 이전 세대 AMD Instinct™ MI300 시리즈 플랫폼과 완벽하게 호환되며 타사 인프라에도 원활하게 통합되므로 고밀도 컴퓨팅이 필수인 거의 모든 시나리오에서 손쉽고 비용 효율적인 업그레이드 솔루션입니다.

AMD Instinct GPU는 FP6 및 FP4 데이터 유형에 대해 확장된 지원을 제공하며 FP16 및 FP8 처리 지원도 강화하여 확실한 계산 처리율과 메모리 대역폭 활용도를 제공하는 동시에 에너지 효율성을 극대화합니다. AMD Instinct MI350 시리즈 GPU는 AMD Instinct MI300X GPU가 FP16을 실행할 때보다 FP4를 실행할 때 최대 7배 더 우수한 성능을 제공⁴하므로 고급 생성형 AI 모델에서 놀라운 성능을 발휘하고 생성형 AI 분야의 한계를 한층 더 확장하는 데 기여합니다.

차세대 AMD ROCm™ 소프트웨어에 통합

오픈 소스 혁신에 대한 AMD의 노력을 토대로 탄생한 AMD Instinct MI350 시리즈 GPU는 AI 및 고성능 컴퓨팅 워크로드를 위한 업계 최고의 오픈 대안인 차세대 AMD ROCm™ 소프트웨어 스택에 통합되었습니다.

이러한 신규 가속기 출시와 더불어 최신 AMD ROCm 소프트웨어 개선 사항은 AI 워크로드를 한 단계 더 발전시켜 AI 추론, 교육, 프레임워크 호환성을 더욱 최적화하고 자연어 처리(NLP), 컴퓨터 비전 등과 같은 까다로운 워크로드에 대해 높은 처리율 및 낮은 지연율을 제공합니다.

ROCm 소프트웨어는 주요 파트너와의 전략적이고 긴밀한 협업을 통해 OpenAI, Meta, PyTorch, Hugging Face, Databricks, Lamini 등의 선도 기업이 제공하는 AI 플랫폼과 모델에 대한 Day-0 지원을 제공합니다. 이 모든 요소는 최신 AI 모델 및 프레임워크 출시 시점에 AMD Instinct GPU가 최적화되어 실행되도록 보장하므로 개발자와 기업이 AI를 업무 프로세스에 통합하는 속도를 가속화할 수 있습니다.

Microsoft, Meta와 같은 대기업에서 Llama 405B, GPT 등의 대규모 AI 모델 배포에 AMD Instinct GPU를 믿고 사용하는 데는 이유가 있습니다. AMD 담당자에게 문의하거나 amd.com을 방문하여 자세한 내용을 확인하고 AMD Instinct 가속기의 강력한 성능으로 고객을 지원하세요.