ROCm Core SDK
Alles, was Sie benötigen, um GPU-beschleunigte Anwendungen auf AMD Hardware zu entwickeln. Das ROCm Core SDK umfasst die zentralen Bibliotheken, Runtimes, Compiler und Tools, auf denen der ROCm Software-Stack aufbaut.
Neuerungen in ROCm 7.14
Produktionsreifes TheRock für eine schnellere und modulare ROCm Entwicklung
Umfassende KI-Hardware-Unterstützung für AMD Instinct™ GPUs, Radeon™ und Ryzen™ AI
Optimierte Unterstützung für führende Open-Source-KI-Frameworks und Inferenz-Engines
Enterprise-fähige KI-Bereitstellung mit cloudnativer Orchestrierung und Entwicklerwerkzeugen
Verbesserte Performance für verteilte KI, Profiling und skalierbare Bereitstellung
ROCm-Evolution über die Jahre
Führende Unternehmen und Forschungsinstitute nutzen ROCm seit beinahe einem Jahrzehnt. Entdecken Sie die verschiedenen Meilensteine, die die Geschichte von ROCM ausmachen.
ROCm Core SDK-Komponenten
Entdecken Sie die zentralen Komponenten des ROCm Core SDK
GPU-beschleunigte KI-, Mathematik- und Kommunikationsbibliotheken für High-PerformanceComputing. Native roc*-Bibliotheken optimieren die Performance auf AMD GPUs, während Hip*-Wrapper die CUDA-Portierbarkeit vereinfachen. Skalieren Sie verteilte KI- und HPC-Workloads mit Hochleistungsbibliotheken für die Kommunikation zwischen mehreren GPUs und mehreren Knoten.
Entwickeln und führen Sie GPU-Anwendungen effizient mit AMD Compiler-Toolchains und Runtimes aus. Messen Sie die Performance, analysieren Sie die GPU-Auslastung und identifizieren Sie Engpässe mit Profiling- und Debugging-Tools, um KI-, HPC- und Accelerated-Computing-Anwendungen zu optimieren.
Überwachen und verwalten Sie GPU-Hardware einschließlich Temperatur, Energieverbrauch, Speicher und Ressourcenzuweisung mit Runtime-, Treiber- und Betriebssystem-Tools.
Überwachen und verwalten Sie den GPU-Hardwarestatus, einschließlich Temperatur, Leistungsaufnahme und Ressourcenzuweisung.
KI-Inferenz
Produktionsreife KI-Inferenz mit ROCm
Stellen Sie führende Open-Source-Modelle auf AMD GPUs mit einem vollständig Open-Source-basierten Inferenz-Stack bereit. Starten Sie mit vorgefertigten Containern und Upstream-Unterstützung für Frameworks.
Offene, direkt nutzbare Inferenz
Von der Feinabstimmung bis zur Bereitstellung in der Produktion – ohne Änderungen an bestehenden Workflows
AMD ROCm liefert einen Open-Source-End-to-End-Inferenz-Stack mit Upstream-Framework-Unterstützung (einschließlich PyTorch) sowie validierten Containern für vLLM und SGLang. Dadurch können Teams mit einem konsistenten Workflow nahtlos von der Feinabstimmung und dem Benchmarking zum Produktionsbetrieb auf AMD Instinct™ GPUs übergehen.
Effiziente Inferenz, standardmäßig optimiert
Hoher Durchsatz ohne den Aufwand einer modellbezogenen Feinabstimmung
ROCm kombiniert quantisierte Modellpakete mit nativer Low-Precision-Ausführung und optimierten Transformer-Hot-Path-Kernels, wodurch sich der Tuning-Aufwand reduziert und gleichzeitig der Durchsatz sowie die Effizienz für reale Produktionsumgebungen maximiert wird.
Verteilte Inferenz für moderne Serving-Umgebungen
Entwickelt für Prefill-, Decodierungs- und Scale-out-Workloads
ROCm unterstützt verteilte Inferenz mit einer Aufteilung von Prefill- und Decode-Prozessen sowie optimierter Kommunikation zwischen mehreren GPUs und Knoten. Dadurch bleibt die Reaktionsfähigkeit und Auslastung auch bei skalierender Inferenz erhalten.
Produktionsbereit für Kubernetes mit KI
Zuverlässiger Inferenzbetrieb für große KI-Infrastrukturen
ROCm lässt sich über den AMD GPU Operator, integrierte Telemetrie und eine modulare Treiberarchitektur in Kubernetes integrieren. Dies unterstützt automatisierte Rollouts, Observability und ein planbares Lifecycle-Management in sicheren sowie abgeschotteten Umgebungen.
KI-Training
End-to-End-KI-Training im großen Maßstab auf AMD GPUs
Trainieren und optimieren Sie KI-Modelle auf AMD GPUs mit einer offenen End-to-End-Softwareplattform. Nutzen Sie optimierte Frameworks, effiziente GPU-Beschleunigung und eine nahtlose Skalierung von einer einzelnen GPU bis hin zu Multi-Node-Clustern.
Optimierte KI-Trainings-Performance
Beschleunigen Sie das Modelltraining mit Rechenleistung und Optimierungen
ROCm nutzt die parallelen Verarbeitungskapazitäten von AMD GPUs, um die Trainingszeit zu verkürzen und die Gesamt-Performance für KI-Workloads zu verbessern. Dank optimierten Bibliotheken, effizientem Ressourcenmanagement und der Unterstützung moderner KI-Frameworks können Entwickler größere Modelle schneller trainieren und gleichzeitig die GPU-Auslastung maximieren.
Effizientes Fine-Tuning für spezialisierte KI-Anwendungen
Anpassung von Foundation-Modellen an domänenspezifische Aufgaben mit ROCm
ROCm beschleunigt das Fine-Tuning großer Sprachmodelle und anderer Basismodelle auf AMD GPUs mit optimierten Bibliotheken, umfassender Framework-Kompatibilität und effizientem Ressourcenmanagement. Führen Sie das Fine-Tuning von Modellen schneller durch und integrieren Sie sie nahtlos in Open-Source-Frameworks, -Modelle und -Tools.
Skalierbares verteiltes Training
Führen Sie Multi-Node-Training zuverlässig auf AMD GPU-Clustern aus
Primus unterstützt Teams dabei, das Training über AMD GPU-Cluster hinweg zu skalieren – mit verteilter Ausführung, topologiebewusster Planung und fehlertolerantem Betrieb. Dies ermöglicht ein konsistenteres Training, wenn Workloads und Cluster wachsen.
Enterprise-fähiger Trainingsbetrieb
Telemetrie, Validierung und schnellere Wiederherstellung für lang laufende Jobs
Primus stellt Telemetrie, Dashboards und Benchmarks zur Bewertung des Knotenzustands bereit und ermöglicht Teams dadurch Einblicke in die Trainingsleistung und den Zustand der Cluster. Das hilft Unternehmen, große Trainings-Workloads zuverlässiger zu betreiben und Probleme schneller zu beheben.
ROCm für HPC und Supercomputing
Entwickeln und skalieren Sie HPC-Anwendungen mit ROCm
Von optimierten Bibliotheken bis hin zu führenden Supercomputern – ROCm ermöglicht High-Performance Computing auf AMD GPUs.
Beschleunigung von Innovationen im High-Performance Computing
Ermöglicht echte Durchbrüche in Wissenschaft, Ingenieurwesen und Forschung
AMD ROCm™ ermöglicht High-Performance-Computing-(HPC-) und Supercomputing-Workloads in Bereichen wie Energie, Molekulardynamik, Physik, computergestützter Chemie, Klimawissenschaften und weiteren Forschungsgebieten. Die offene Softwareplattform unterstützt dabei die Bewältigung einiger der komplexesten Rechenherausforderungen der Welt.
Flexible HPC-Programmierung
Entwickeln Sie mit den Tools, die am besten zu Ihrer Anwendung passen
ROCm unterstützt mehrere HPC-Programmiermodelle, darunter OpenMP®, HIP, OpenCL™ und Python™, und bietet Entwicklern die Flexibilität, Anwendungen mit den passenden Programmiersprachen und Frameworks zu entwickeln, zu optimieren und zu skalieren.
Optimierte Bibliotheken für High-Performance Computing
Beschleunigen Sie Anwendungen mit optimierten Bibliotheken
ROCm enthält eine umfassende Sammlung von Mathematik- und Kommunikationsbibliotheken, die die HPC-Entwicklung vereinfachen und gleichzeitig die Performance, Skalierbarkeit und Effizienz von Anwendungen auf AMD Rechenplattformen verbessern.
Bewährt im Supercomputing
Skalierbare Rechenleistung für die weltweit führenden Supercomputer
AMD treibt 177 der Top500-Supercomputer an, darunter Frontier, LUMI und das kommende System El Capitan. ROCm bildet die Softwaregrundlage für den Betrieb einiger der weltweit größten und anspruchsvollsten HPC-Anwendungen im Exascale-Bereich und darüber hinaus.
Fallstudien von Partnern
Partnerschaften und bewährter Erfolg
Erfahren Sie, wie Unternehmen und führende Forschungseinrichtungen mit AMD zusammenarbeiten.
Ausgewählte Blogbeiträge
Unterstützte Hardware
Ressourcen für Entwickler
ROCm Newsletter
Erhalten Sie die neuesten Nachrichten über ROCm:
Fußnoten
© 2024 Advanced Micro Devices, Inc. Alle Rechte vorbehalten. AMD, das AMD Pfeillogo, AMD ROCm, AMD Instinct, EPYC, Radeon Instinct und deren Kombinationen sind Marken von Advanced Micro Devices, Inc. PyTorch ist eine Marke oder eingetragene Marke von PyTorch. Andere Produktnamen in diesem Dokument dienen nur zur Information und können Marken ihrer jeweiligen Inhaber sein.
- Eine vollständige Liste der Radeon Teile, die von ROCm unterstützt werden, finden Sie unter https://rocm.docs.amd.com/en/latest/reference/gpu-arch-specs.html.
© 2024 Advanced Micro Devices, Inc. Alle Rechte vorbehalten. AMD, das AMD Pfeillogo, AMD ROCm, AMD Instinct, EPYC, Radeon Instinct und deren Kombinationen sind Marken von Advanced Micro Devices, Inc. PyTorch ist eine Marke oder eingetragene Marke von PyTorch. Andere Produktnamen in diesem Dokument dienen nur zur Information und können Marken ihrer jeweiligen Inhaber sein.
- Eine vollständige Liste der Radeon Teile, die von ROCm unterstützt werden, finden Sie unter https://rocm.docs.amd.com/en/latest/reference/gpu-arch-specs.html.