AMD Radeon AI PRO R9700
*예술적 렌더링입니다. 구매할 수 없습니다.

AI 퍼스트 전문가를 위해 제작되었습니다.

로컬 추론, 개발, 생성형 AI를 위한 확장성과 성능 최적화를 제공합니다.

기능

고급 로컬 AI를 위한 최적의 VRAM 버퍼

32GB VRAM을 지원하는 AMD Radeon™ AI PRO R9700 그래픽으로 데스크탑에서 최신 LLM 및 텍스트-이미지 모델의 메모리 요구 사항을 충족하세요.

인기 모델별 일반적인 VRAM 사용량

LLM
DeepSeek R1 Distill Qwen 32B Q6
28GB
Mistral Small 3.1 24B Instruct 2503 Q8
27GB
텍스트-이미지
Flux.1 Schnell
24GB
SD 3.5 Medium
17GB

각주 RPW-496 참조

AMD Radeon™ AI PRO R9700 그래픽: 대형 AI 모델용 32GB VRAM

대용량 모델 성능 대폭 강화 - 32GB VRAM으로 속도 최대 5배 향상

대형 AI 모델 성능

100%
361%
437%
454%
447%
496%
Phi 3.5 MoE Q4
"Mistral Small 3.1 24B Instruct 2503 Q8
DeepSeek R1 Distill Qwen 32B Q6
Qwen 3 32b Q6
Qwen 3 32b Q6 Large Prompt(3000+ 토큰)

GeForce RTX 5080(16GB)

AMD Radeon™ AI PRO R9700(32GB)

각주 RPW-495 참조

AMD Radeon AI PRO R9700

AMD로 AI 가속화

AMD Radeon™ AI PRO 시리즈 그래픽 카드는 고급 AI 경험을 가속화하고, 다양한 머신 러닝 프레임워크에서 작동하여 로컬 AI 워크로드의 속도를 높이고 대규모 머신 러닝 데이터 세트를 처리하도록 설계되었습니다.

모델 사양

AMD RDNA 4 아키텍처를 갖춘 AMD Radeon AI PRO R9000 시리즈 그래픽

리소스

AMD ROCm

AI 워크로드를 위한 최적화 제품군을 제공하고 보다 광범위한 AI 소프트웨어 생태계를 지원하는 개방형 소프트웨어 스택입니다. 

각주

RPW-495: 2025년 5월 AMD 테스트 기준. 3회 실행의 초당 평균 토큰. 모델이 나선형 프로세스를 시작하여(2k 이상의 사고 토큰) 응답 길이를 표준화하는 에지 케이스는 제외함. 추측 디코딩 없음. 모든 테스트는 LM Studio 0.3.15(Build 11)에서 수행됨. AMD에 Vulkan Llama.cpp 1.28 사용, NVIDIA에 Flash Attention과 함께 NVIDIA 권장 CUDA 12 llama.cpp 1.30 사용. 짧은 프롬프트:  "공이 10m 높이에서 땅에 떨어지는 데 얼마나 걸릴까요?” 긴 프롬프트: "다음 내용을 정확히 다섯 줄로 요약하십시오. [로미오와 줄리엣 1막 1장 삽입]", 테스트 대상 모델: Phi 3.5 MoE Q4 K M, Mistral Small 3.1 24B Instruct 2503 Q8, DeepSeek R1 Distill Qwen 32B Q6, Qwen 32b Q6 시스템 사양: AMD Ryzen™ 9 7900X, 32GB DDR5 RAM 6000MT/s, Windows 11 PRO 24H2, AMD Radeon™ AI PRO R9700 32GB(Adrenalin 25.6.1 RC 사용)와 AMD Ryzen™ 9 7900X, 32GB DDR5 RAM 6000MT/s, Windows 11 PRO 24H2(NVIDIA GeForce RTX 5080 및 GeForce 576.4 드라이버 설치) 비교. 성능은 다를 수 있습니다. RPW-495.

RPW-496: 2025년 5월 AMD에서 DeepSeek R1 Distill Qwen 32B Q6, Mistral Small 3.1 24B Instruct 2503 Q8, Flux.1 Schnell, SD 3.5 Medium 모델을 사용하여 테스트했습니다. Windows에 AMD Ryzen 9 7900X CPU, Radeon AI PRO R9700 GPU, 32GB DDR5 RAM, 1TB 스토리지, Windows 11 PRO 24H2, Adrenalin 25.6.1 RC 드라이버, ComfyUI - PyTorch 2.4를 탑재한 시스템에서 테스트했습니다. 시스템 구성에 따라 다른 결과가 나올 수 있습니다. RPW-496

GD-239a: Radeon™ PRO W6000 및 W7000 시리즈와 Radeon™ AI PRO R9000 시리즈 그래픽 카드(이후 모델 포함)는 데이터 센터용으로 설계 및 권장되지 않습니다. 데이터 센터 설정에 사용하면 관리성, 효율성, 안정성 및/또는 성능에 부정적인 영향을 줄 수 있습니다.