AMD Instinct GPUs
Entdecken, wie AMD Instinct Beschleuniger KI und HPC voranbringen.
Übersicht
Optimierter GPU Software-Stack
AMD ROCm™ ist eine offene Softwareplattform, mit der Rechenzentrumsteams KI- und HPC-Workloads über GPUs und Knoten hinweg schnell einrichten, bereitstellen und skalieren können. Entwickler können mit vertrauten Frameworks arbeiten, für die Performance wichtigen Code optimieren und mit HIP vorhandene GPU-Anwendungen und Frameworks für unterstützte AMD Hardware anpassen.
Bildzoom
← Video ansehen
ROCm.AI: Beschleunigung der Entwicklungsgeschwindigkeit und Performance-Optimierung
Eine KI-native Entwicklererfahrung, die die ROCm-Entwicklung beschleunigt, die Entwicklung und Optimierung von KI-Workloads vereinfacht und die Performance auf AMD Hardware maximiert
Entwicklung
KI im großen Maßstab mit AMD ROCm Software erstellen, trainieren und bereitstellen
AMD ROCm™ Software vereint offene Frameworks, optimierte Bibliotheken, Modelltools und Scale-out-Infrastruktur, um die KI-Entwicklung vom Experimentieren bis zur Produktion zu unterstützen.
Erstellen
Vereinfachte Modellentwicklung
Entwickeln Sie mit PyTorch, TensorFlow und JAX mithilfe von für AMD optimierten Containern und Workflows für gängige offene Modelle, von denen mehr als 3 Mio. von Hugging Face stammen.
Trainieren
AMD Primus – Training von KI-Modellen im großen Maßstab
Nutzen Sie AMD Primus und ROCm-Kommunikationsbibliotheken für Vortraining, Feinabstimmung und verteiltes Training über AMD Instinct™ GPUs hinweg.
Optimieren
Optimierung und Bereitstellung von KI-Modellen
Verwenden Sie AMD Quark, AITER, vLLM und SGLang, um Modelle zu optimieren, kritische Vorgänge zu beschleunigen und Inferenz mit hohem Durchsatz bereitzustellen.
Bereitstellen
Bereitstellung über die gesamte KI-Infrastruktur hinweg
Skalieren Sie mit Containern, Kubernetes, Slurm, Telemetrie und Lifecycle-Management-Tools von einzelnen GPUs bis hin zu Umgebungen mit mehreren Knoten.
Mit AMD ROCm können Sie High-Performance-Computing erstellen, optimieren, skalieren und ausführen
Die AMD ROCm™ Software unterstützt HPC-Entwickler beim Erstellen oder Portieren wissenschaftlicher Anwendungen, beim Analysieren und Optimieren der Performance und beim Wechsel von einer einzigen GPU auf Ausführungen mit mehreren Knoten.
Erstellen
Wissenschaftliche Anwendungen erstellen und portieren
Entwickeln Sie GPU-beschleunigten Code mit HIP- oder OpenMP®-Offload, arbeiten Sie mit HPC-Frameworks wie Kokkos und RAJA und verwenden Sie HIPIFY, um vorhandenen CUDA®-Code zu übersetzen.
Optimieren
Performance analysieren und optimieren
Analysieren Sie Kernels und Datenverschiebung mit ROCm Tools, und verwenden Sie dann optimierte Bibliotheken für lineare Algebra, FFTs, Solver und Sparse-Operationen. Validieren Sie die Ergebnisse während der Optimierung.
Skalierbarkeit
Über GPUs und Knoten hinweg skalieren
Verwenden Sie GPU-fähige MPI für verteilte Anwendungen und rocSHMEM für GPU-initiierte Kommunikation, und messen Sie dann die Performance, wenn die Anzahl der GPUs und Knoten steigt.
Ausführen
Auf HPC-Infrastruktur ausführen
Bündeln Sie Anwendungen in HPC-Containern und leiten Sie Cluster-Jobs mit Slurm weiter. ROCm wird in führenden Systemen wie El Capitan, Frontier und LUMI eingesetzt.
Neues
ROCm 10.0: Gebaut für das Zeitalter der agentischen KI
Symbol
Mit AMD Expertise erstellen
AMD Skills bringt kuratiertes AMD Wissen und validierte Workflows in KI-Codierungsagenten ein und hilft Entwicklern, für AMD optimierte Anwendungen zu entwickeln, indem sie bei der Nutzung der ihnen bereits bekannten Tools angeleitet werden.
Symbol
Mit einfacheren Workflows ausführen
Die ROCm CLI bietet eine einheitliche Schnittstelle zum Einrichten, Verwalten und Betreiben von KI-Workloads auf AMD Hardware.
Symbol
End-to-End-Inferenz optimieren
ROCm Hyperloom verwendet agentische KI, um Workloads zu analysieren, Engpässe zu identifizieren, Optimierungen zu implementieren und die Performance über Hostcode und GPU-Kernel hinweg zu validieren.
Symbol
Auf einem modularen ROCm Core SDK aufbauen
Das ROCm Core SDK bietet eine modulare Grundlage für die Erstellung, Bereitstellung und Optimierung von KI-Workloads auf AMD Plattformen.
Ökosystem und Partner
Ein breites, offenes KI-Ökosystem mit führenden Frameworks, Technologiepartnern und Entwicklern, um Innovationen zu beschleunigen, Portabilität zu ermöglichen und KI von der Entwicklung bis zur Produktion zu skalieren.
Unterstützte Hardware
Ressourcen für Entwickler
Häufig gestellte Fragen
AMD ROCm™ ist ein offener Software-Stack für die Entwicklung von KI- und High-Performance-Computing-Anwendungen auf unterstützten AMD GPUs. Teams nutzen es, um KI-Modelle zu trainieren und bereitzustellen, GPU-beschleunigte Software zu erstellen und wissenschaftliche Workloads über GPUs und Knoten hinweg auszuführen.
ROCm und CUDA sind separate GPU-Computing-Plattformen. ROCm bietet einen offenen Software-Stack für unterstützte AMD GPUs, und sein HIP-Programmiermodell stellt einen Pfad zum Portieren von CUDA-Quellcode bereit. Die Tools und APIs sind nicht direkt austauschbar, sodass der Migrationsaufwand von der Anwendung und ihren Abhängigkeiten abhängt.
Nicht immer. Anwendungen, die auf unterstützten KI-Frameworks basieren, können möglicherweise mit einer ROCm-fähigen Version des Frameworks beginnen. Code, der CUDA-APIs aufruft oder auf CUDA-spezifischen Bibliotheken basiert, muss möglicherweise geändert werden. HIPIFY hilft dabei, unterstützten CUDA-Code in HIP zu übersetzen. Danach sollten Entwickler die Korrektheit prüfen und die Performance nach Bedarf anpassen.
ROCm unterstützt PyTorch, TensorFlow und JAX für die KI-Entwicklung sowie vLLM und SGLang für die Modellbereitstellung. Unterstützte Versionen hängen von der ROCm-Version und der Systemkonfiguration ab. Prüfen Sie die aktuelle Kompatibilitätsmatrix, bevor Sie eine Framework-Version auswählen.
Prüfen Sie zuerst die Kompatibilitätsmatrix für Ihre GPU und Ihr Betriebssystem. Folgen Sie anschließend der Installationsanleitung von AMD für diese Konfiguration. AMD Infinity Hub bietet vorkonfigurierte Container, während ROCm CLI bei der Einrichtung und Diagnose auf unterstützten Systemen helfen kann. Führen Sie einen Beispiel-Workload aus, um Ihre Umgebung vor der Skalierung zu überprüfen.
Erhalten Sie die neuesten Nachrichten über ROCm:
Fußnoten
© 2024 Advanced Micro Devices, Inc. Alle Rechte vorbehalten. AMD, das AMD Pfeillogo, AMD ROCm, AMD Instinct, EPYC, Radeon Instinct und deren Kombinationen sind Marken von Advanced Micro Devices, Inc. PyTorch ist eine Marke oder eingetragene Marke von PyTorch. Andere Produktnamen in diesem Dokument dienen nur zur Information und können Marken ihrer jeweiligen Inhaber sein.
- Eine vollständige Liste der Radeon Teile, die von ROCm unterstützt werden, finden Sie unter https://rocm.docs.amd.com/en/latest/reference/gpu-arch-specs.html.
Fußnoten
© 2024 Advanced Micro Devices, Inc. Alle Rechte vorbehalten. AMD, das AMD Pfeillogo, AMD ROCm, AMD Instinct, EPYC, Radeon Instinct und deren Kombinationen sind Marken von Advanced Micro Devices, Inc. PyTorch ist eine Marke oder eingetragene Marke von PyTorch. Andere Produktnamen in diesem Dokument dienen nur zur Information und können Marken ihrer jeweiligen Inhaber sein.
- Eine vollständige Liste der Radeon Teile, die von ROCm unterstützt werden, finden Sie unter https://rocm.docs.amd.com/en/latest/reference/gpu-arch-specs.html.