Training und Inferenz in großem Maßstab auf AMD Instinct™ GPUs optimieren

Testen Sie AMD ROCm™ für Open-Source-GPU-Programmierung mit PyTorch und anderen führenden Frameworks. Hier finden Sie Beispiele für Notebooks, Tutorials, Open-Source-Projekte, Dokumentation und mehr.

ROCm installieren
Siehe unterstützte GPUs

Beispiele für KI-Workloads ausführen

Testen Sie den ROCm Software-Stack für Cloud- und Rechenzentrums-KI-Anwendungsfälle.

Auf alle KI-Tutorials zugreifen

Ausgewählte Workloads

Zugriff auf AMD GPUs erhalten

Möchten Sie ROCm auf AMD Instinct GPUs sofort testen?

Nehmen Sie am AMD KI-Entwicklerprogramm teil und erhalten Sie kostenloses Guthaben für die AMD Developer Cloud im Wert von 100 $. Dabei handelt es sich um eine leistungsstarke Computing-Plattform mit AMD Instinct GPUs und vorinstallierten Docker Containern ganz ohne Einrichtung.

Für AMD KI-Entwicklerprogramm registrieren
Zugriff auf die AMD Developer Cloud
AMD Instinct MI350 Series

Lernmittel

In weiteren Themen finden Sie relevante Lernressourcen, die Ihnen helfen, über die neuesten technologischen Fortschritte von AMD auf dem Laufenden zu bleiben.

Community und Support

AMD AI Developer Program

Am AMD KI-Entwicklerprogramm teilnehmen

Nutzen Sie Cloud-Guthaben, vernetzen Sie sich mit AMD Ingenieuren, erhalten Sie frühzeitige Einladungen zu Veranstaltungen, eröffnen Sie sich Chancen für Anerkennung, nehmen Sie an Gewinnspielen nur für Mitglieder teil, veröffentlichen Sie technische Inhalte und schalten Sie exklusive Schulungen und Workshops frei

Mehr erfahren

Andere Foren

Fragen und Probleme im Zusammenhang mit PyTorch
Fragen und Probleme im Zusammenhang mit vLLM
Fragen im Zusammenhang mit ROCm
Bereit, Bugs oder PRs zu melden?

Häufig gestellte Fragen

ROCm unterstützt mehr als ein Dutzend Linux-Distributionen für Computing-Workloads auf ausgewählten AMD Instinct und AMD Radeon GPUs. Derzeit unterstützte Linux-Distributionen für ROCm sind im Dokument mit den Systemanforderungen aufgeführt.

Bei den aufeinanderfolgenden ROCm-Versionen sind erhebliche Performance-Steigerungen zu verzeichnen. Auf der Seite mit den Performance-Ergebnissen finden Sie einen Referenzpunkt für die Bewertung der Leistung von AMD Instinct GPUs mit ROCm Software, auf der beliebte KI-Modelle für Inferenz (z. B. vLLM, xDiT) und Training (z. B. PyTorch, Megatron-LM und JAX MaxText) ausgeführt werden.

Neben neuen ROCm Versionen veröffentlicht AMD regelmäßig offizielle ROCm PyTorch Docker-Images. Diese Images werden einem vollständigen AMD Test unterzogen. Eine Übersicht, unterstützte Module und Schlüsselbibliotheken finden Sie im PyTorch Kompatibilitätsdokument. Anweisungen und Downloads für das Docker-Image oder ein Wheels-Paket finden Sie im PyTorch on ROCm Installationshandbuch.

Sie können Ihr System optimieren, indem Sie AMD GPUs auf Ihren Workload abstimmen, um deren volle Funktionalität zu nutzen.

Sie können ROCm Tools auch verwenden, um die Performance von KI-Modellen zu verbessern und die Inferenzphase bei der Ausführung von KI-Workloads zu beschleunigen. Zu den Methoden zur Optimierung der Inferenz gehören Quantifizierung und Optimierung vortrainierter Modelle, Optimierung von Berechnungs-Kernels und Verwendung beschleunigter Bibliotheken. Dokument mit ersten Schritten zur Optimierung der ROCm Inferenz.

Am KI-Entwicklerprogramm teilnehmen

Nutzen Sie das kostenlose Guthaben für die AMD Developer Cloud, exklusive Schulungen, monatliche AMD GPU Gewinnspiele und Community-Support zur Unterstützung Ihrer KI-Entwicklung.

Am Programm teilnehmen