Anwendung AMD Software: Adrenalin Edition™
Konzipiert als leistungsstarke und benutzerfreundliche Schnittstelle, mit der Sie schnell auf die neuesten Softwarefunktionen, Treiber-Updates und vieles mehr zugreifen können.
Für lokale KI-Inferenz, Entwicklung und andere speicherintensive Auslastungen.
Bringen Sie Ihre KI-Auslastungen mit der AMD Radeon™ AI PRO R9700 und AMD ROCm™ auf eine neue Stufe. Die Kombination aus 32 GB VRAM und Multi-GPU-Unterstützung schafft eine leistungsstarke Grundlage für Large Language Models und andere rechenintensive Aufgaben und bietet gleichzeitig ein außergewöhnliches Preis-Leistungs-Verhältnis in ihrer Klasse.
Sind Sie bereit, die AMD Radeon™ AI PRO R9700 für Ihre anspruchsvollsten KI-Auslastungen einzusetzen? Für einen nahtlosen Start finden Sie unsere Schritt-für-Schritt-Anleitung zur Bereitstellung der AMD ROCm™, OpenCL™ und PyTorch® Umgebung auf AMD Radeon AI PRO GPUs.
Erfüllen Sie die Speicheranforderungen moderner LLMs und Text-zu-Bild-Modelle auf Ihrem Desktop mit der AMD Radeon™ AI PRO R9700 Grafikkarte mit 32 GB VRAM.
Typische VRAM-Nutzung bei gängigen Modellen
Siehe Endnote RPW-496.
Bis zu 5-mal schneller mit 32 GB VRAM
AMD Radeon™ AI PRO R9700 (32 GB)
GeForce RTX 5080 (16 GB)
Performance (Token/Sekunde) | Siehe Endnote RPW-495.
AMD Radeon™ AI PRO R9700 setzt einen neuen Standard für kosteneffektive KI-Beschleunigung und bietet einen konsistent höheren Wert bei Auslastungen mit hohem VRAM.
AMD Radeon™ AI PRO R9700
Nvidia RTX 4500 (Blackwell)
Wert (Performance/$), basierend auf durchschnittlichen Token/Sekunde | Siehe Endnoten RPW-502, 506.
RPW-495: Tests durchgeführt von AMD im Mai 2025. Durchschnittliche Tokens pro Sekunde in drei Durchläufen, wobei Edge-Fälle weggelassen werden, in denen das Modell anfängt, eine Spirale zu bilden (mehr als 2.000 Thinking-Tokens), um die Antwortlänge zu standardisieren. Keine spekulative Dekodierung. Alle Tests durchgeführt auf LM Studio 0.3.15 (Build 11). Vulkan Llama.cpp 1.28 wird für AMD verwendet, von NVIDIA empfohlenes CUDA 12 llama.cpp 1.30 mit Flash Attention für NVIDIA. Kurzer Prompt: „Wie lange würde es dauern, bis ein Ball aus einer Höhe von 10 Metern auf den Boden fällt?“ Langer Prompt: „Folgendes in genau fünf Zeilen zusammenfassen: [Szene 1 Akt 1 von Romeo und Julia einfügen]“, Getestete Modelle: Phi 3.5 MoE Q4 K M, Mistral Small 3.1 24B Instruct 2503 Q8, DeepSeek R1 Distill Qwen 32B Q6, Qwen 32b Q6 Systemspezifikationen: AMD Ryzen™ 9 7900X, 32 GB DDR5 RAM 6000 MT/s, Windows 11 PRO 24H2, AMD Radeon™ AI PRO R9700 32 GB unter Verwendung von Adrenalin 25.6.1 RC im Vergleich zu AMD Ryzen™ 9 7900X, 32 GB DDR5 RAM 6000 MT/s, Windows 11 PRO 24H2 mit NVIDIA GeForce RTX 5080 und GeForce 576.4 Treibern. Die Performance kann variieren. RPW-495.
RPW-496: Tests durchgeführt von AMD im Mai 2025 unter Verwendung der Modelle DeepSeek R1 Distill Qwen 32B Q6, Mistral Small 3.1 24B Instruct 2503 Q8, Flux.1 Schnell, SD 3.5 Medium. Getestet auf einem System mit AMD Ryzen 9 7900X CPU, Radeon AI PRO R9700 GPU, 32 GB DDR5 RAM, 1 TB Speicher, Windows 11 PRO 24H2, Adrenalin 25.6.1 RC Treiber, ComfyUI - PyTorch 2.4 für Windows. Systemkonfigurationen können abweichen und führen zu unterschiedlichen Ergebnissen. RPW-496.
GD-239a: Radeon™ PRO W6000- und W7000-Serie und Radeon™ AI PRO R9000-Serie Grafikkarten (und neuere Modelle) sind für die Nutzung im Rechenzentrum weder konzipiert noch dafür empfohlen. Die Verwendung in einem Rechenzentrum kann sich nachteilig auf Manageability, Effizienz, Zuverlässigkeit und/oder Performance auswirken.
RPW-502: Tests ab September 2025 durch AMD mit Benchmarks von DeepSeek R1 Distill Qwen 7B, DeepSeek R1 Distill Qwen 14B FP8-dynamic, Qwen3 14B FP8-dynamic, DeepSeek R1 Distill Llama 8B, Llama-3.1 8B-Instruct, DeepSeek R1 Distill Llama 8B FP8-dynamic, Llama-3.2 1B Instruct, Llama-3.2 3B-Instruct. Getestet auf einem System mit ASUS WRX90E-SAGE-SE, AMD Ryzen™ Threadripper™ PRO 9985WX, 128 GB DDR5-5600, 1 TB Speicher, OS Ubuntu 24.04.3 LTS, Kernel 6.14.0-27-generic, ROCm 6.4.2, AMD Radeon AI PRO R9700 im Vergleich zum gleichen System mit Nvidia RTX 4500 (Blackwell). Systemkonfigurationen können abweichen und führen zu unterschiedlichen Ergebnissen. RPW-502.
RPW-506: Ab 1. Oktober 2025 bietet die AMD Radeon AI PRO R9700 mit einer UVP von 1.299 $ den meisten VRAM (32 GB) in der aktuellen Generation von Videokarten für Workstations und Verbraucher unter 1.500 $. Quellen: https://www.nvidia.com/en-us/geforce/graphics-cards/50-series/ (Verbraucher) | https://www.cdw.com/ (Workstation). RPW-506.