Kleinere Modelle lokal auf AMD Radeon™ GPUs ausführen

Experimentieren Sie mit AMD ROCm™ für die AMD Radeon GPU-Programmierung. Hier finden Sie Beispiele für Playbooks, lokale KI-Entwicklungstools, Tutorials, Open-Source-Projekte, Dokumentation und vieles mehr.

ROCm installieren:

Linux
Windows
WSL

Siehe Voraussetzungen

Beispiele für lokale KI-Workloads ausführen

Testen Sie den ROCm Software-Stack für Edge-KI-Anwendungsfälle.

Auf alle Playbooks zugreifen

Ausgewählte Workloads

Erste Schritte mit Ollama

Führen Sie Large Language Models lokal mit Ollama aus, und beginnen Sie innerhalb weniger Minuten mit dem Chat über Terminal, Desktop-App oder REST-API.

Playbook

Zugriff auf AMD Radeon GPUs erhalten

Möchten Sie die AMD Radeon GPU-Programmierung mit ROCm testen?

Experimentieren Sie mit leistungsstarken AMD Radeon GPUs, um lokale KI-Anwendungen basierend auf Ihrer geografischen Umgebung zu entwickeln.

Radeon AI PRO Karten entdecken
AMD Radeon™ AI PRO R9700 and R9700S

Lernmittel

In weiteren Themen finden Sie relevante Lernressourcen, die Ihnen helfen, über die neuesten technologischen Fortschritte von AMD auf dem Laufenden zu bleiben.

Community und Support

AMD AI Developer Program

Am AMD KI-Entwicklerprogramm teilnehmen

Nutzen Sie Cloud-Guthaben, vernetzen Sie sich mit AMD Ingenieuren, erhalten Sie frühzeitige Einladungen zu Veranstaltungen, eröffnen Sie sich Chancen für Anerkennung, nehmen Sie an Gewinnspielen nur für Mitglieder teil, veröffentlichen Sie technische Inhalte und schalten Sie exklusive Schulungen und Workshops frei

Mehr erfahren

Häufig gestellte Fragen

Die Entwicklung lokaler KI-Anwendungen auf GPUs ist ideal, wenn Sie eine niedrige Latenz, Reaktionsschnelligkeit in Echtzeit, Kostenkontrolle oder Datenschutz benötigen, ohne sich auf die Cloud verlassen zu müssen. Durch die Programmierung von AMD Radeon GPUs mit ROCm können Entwickler KI-Workloads lokal für Anwendungsfälle ausführen, z. B.:

  • Lokale LLMs und Copilots für die Retrieval-Augmented Generation (RAG), Codierungsunterstützung und private KI-Anwendungen
  • Kreative und Medien-Workflows wie Bildgenerierung, Video- und Audiooptimierung und 3D-Rendering
  • KI-gestütztes Gaming und Echtzeitgrafiken

Bei den aufeinanderfolgenden ROCm-Versionen sind erhebliche Performance-Steigerungen zu verzeichnen. Auf der Seite mit den Performance-Ergebnissen finden Sie einen Referenzpunkt für die Bewertung der Leistung von AMD Instinct GPUs mit ROCm Software, auf der beliebte KI-Modelle für Inferenz (z. B. vLLM, xDiT) und Training (z. B. PyTorch, Megatron-LM und JAX MaxText) ausgeführt werden.

AMD Radeon RX, Radeon PRO und Radeon AI Pro GPUs mit ROCm Unterstützung bieten leistungsstarke lokale KI-Feinabstimmung und -Inferenz. PyTorch kann für ROCm auf diesen GPUs mit PIP (für Linux und Windows) oder Docker (für Linux) installiert werden. Das AMD ROCm Team trägt aktiv zur Open-Source-Entwicklung bei und arbeitet eng mit Framework-Organisationen, einschließlich PyTorch, zusammen.