Ein vollständiger Referenz-Stack für Unternehmens-KI
Indem sie wichtige Open-Source-KI-Frameworks und Gen-AI-Modelle mit einer unternehmensfähigen Kubernetes-Plattform verbinden, können Unternehmen innerhalb weniger Minuten von Bare-Metal-Computing auf produktive KI umsteigen und so die Zeit von KI-Experimenten zur Großproduktion auf AMD Computing-Plattformen minimieren.
Beschleunigen Sie KI im Unternehmen von der Pilotphase bis zur Produktion
Optimierte Rechnerauslastung
Ihr KI-Computing wird in Benutzergruppen, Projekten und Anwendungsfällen effizient genutzt.
Beschleunigte Wertschöpfung
Von Bare-Metal- oder Cloud-Anwendungen zu produktiven Workloads in wenigen Minuten.
Effizienter KI-Betrieb
Konzentrieren Sie sich auf den echten Wert von KI, indem Sie die Infrastruktur automatisieren.
Unerreichte Gesamtbetriebskosten
Leistungsfähige, kosteneffiziente Hardware trifft auf optimierte Software.
Modulare Open-Source-Architektur
Die Plattform basiert vollständig auf Open-Source-Technologie, sodass Sie keine Herstellerbindung eingehen müssen und die globale KI-Community optimal nutzen können.
Bereitstellung, Verwaltung und Beschleunigung von KI-Workloads in großem Maßstab
Die intuitiven Schnittstellen wurden für den Unternehmensbereich basierend auf AMD Data Center Technologien entwickelt und ermöglichen Unternehmen einen schnellen Einstieg in die KI-Entwicklung und die effiziente Nutzung von Rechnerressourcen im gesamten Unternehmen.
AMD Inference Microservices
Vorgefertigte Inferenz-Container, die Modell, Engine und optimierte Konfiguration für AMD Hardware zusammenfassen. Unterstützt OpenAI-kompatible APIs und offene Gewichtungsmodelle, sodass eine schnelle Bereitstellung ohne Neuentwicklung möglich ist. Hardware-Aware-Optimierung für Präzision, Tensorparallelität und Durchsatz für optimale Performance.
Inferenz in großem Maßstab
Intelligentes Inferenz-Routing und intelligente Planung, Modell-Caching und automatische Skalierung in Echtzeit basierend auf der tatsächlichen Nutzung in Kombination mit APIs nach Branchenstandard.
Optimierte AIM-Container und Betriebssystemlaufzeiten
Modellprofile, die für AMD-Hardwareoptionen und anwendungsfallspezifische KPIs optimiert sind.
Sicherheit und Governance für Unternehmen
Beobachtbarkeit und Modellverwaltung durch Dashboards zur Echtzeitüberwachung und Lebenszyklusverwaltung von Modellen und Schlüsseln.
AMD AI Workbench
Die AMD AI Workbench bietet Benutzern eine benutzerfreundliche Low-Code-Umgebung für die Verwaltung von AIM-Bereitstellungen. KI-Entwickler haben Zugriff auf eine Low-Code-Feinabstimmung mit benutzerfreundlichen Rezepten sowie auf Arbeitsbereiche und CLI-Referenz-Workloads für erfahrene Benutzer.
Bereitstellung und Verwaltung von AIMs
Intuitive Benutzeroberfläche für die Bereitstellung, Interaktion mit und Überwachung von AIM-Bereitstellungen.
Entwickler-Arbeitsbereiche
Virtualisierte Entwicklungsumgebungen auf Basis von Notebooks, gängigen IDEs oder flexiblem Zugriff auf SSH-Ebene.
Tools für Community-Entwickler
Die gängigsten KI-Entwicklungstools stehen Entwicklern zur Verfügung, von der Nachverfolgung von Experimenten und Pipelines bis hin zu Benchmarking und Profilerstellung.
AMD Solution Blueprints
Einsatzbereite Referenzanwendungen mit AIMs für eine schnelle Bereitstellung und als Ausgangspunkt für die Entwicklung. Solution Blueprints bieten eine einfache Möglichkeit, AIMs im Kontext einer Microservice-Lösung zu untersuchen, wie z. B. agentische Workflows, Dokumentzusammenfassung, RAG-Chatbots und KI-Codingassistenten.
Anpassbar an Unternehmensanforderungen
Erweitern und passen Sie bewährte Referenzanwendungen an Ihre Anforderungen an, während eine konsistente Bereitstellung erhalten bleibt. Passen Sie die Solution Blueprints an Ihre Bereitstellungsanforderungen an.
Native Kubernetes-Bereitstellung
AMD Solution Blueprints sind als Helm-Charts verfügbar, die in Kubernetes-Clustern auf AMD Rechnern bereitgestellt werden können.
AMD Solution Blueprints Katalog
Entdecken Sie einen umfangreichen Katalog von Solution Blueprints – von Demos und Schnittstellen bis hin zu agentischen Plattformen und Workflows.
AMD Resource Manager
Mit AMD Resource Manager können Unternehmen Rechnerressourcen mit robustem Cluster-Management, Echtzeitüberwachung und granularer Zugriffskontrolle effizient verwalten.
Intelligente Ressourcenplanung
Flexible Ressourcenzuweisung mit intelligenter Workload-Planung auf Basis vordefinierter Richtlinien und Prioritäten, wodurch der Leerlauf der GPU reduziert wird.
Verwaltung der Job-Warteschlange
Sorgen Sie durch intelligente Quotenzuweisung und dynamische Skalierung für eine ausgewogene Verteilung der Rechnerleistung zwischen Teams und Workloads.
Metriken und Analysen
Verfolgen und überwachen Sie die Rechnernutzung über Benutzergruppen und Workloads hinweg. Optimieren Sie die Ressourcenzuweisung basierend auf echtem Feedback.
Ressourcen
