Wo soll KI ausgeführt werden?

Es ist wichtig, wo KI ausgeführt wird

KI wird mittlerweile an viel mehr Orten ausgeführt als nur in der Cloud: auf Mitarbeiter-PCs, an der Edge, in kundeneigenen Rechenzentren oder über Cloud-Services. Da Unternehmen immer mehr Möglichkeiten finden, KI sinnvoll einzusetzen, hängt die richtige Platzierung davon ab, was jede Workload braucht: Zugang zu Daten, reaktionsschnelle Performance, zuverlässige Konnektivität, ausreichend Kapazität und überschaubare Kosten.

Für Partner bietet sich hier die Gelegenheit, diese Anforderungen in praktische Empfehlungen für die Infrastruktur umzuwandeln. Ein lokaler Dokumentenassistent und ein Videoanalysesystem für mehrere Standorte erfordern jeweils unterschiedliche Ansätze. Beginnen Sie mit der Workload und ermitteln Sie dann, wo die KI-Workloads ausgeführt werden sollen.

Die Art der KI-Arbeit ist ebenfalls wichtig. Das Trainieren oder Verfeinern eines großen Modells erfordert erhebliche Rechenleistung im Rechenzentrum oder in der Cloud. Vieles, wofür Kunden KI jeden Tag einsetzen, z. B. für die Zusammenfassung von Dokumenten oder zur Unterstützung der Mitarbeiter bei der Erledigung von Routineaufgaben, hat mit Inferenz zu tun, wobei ein bestehendes Modell für neue Anfragen genutzt wird. Je nach Modell und Software kann diese Arbeit auf einem PC, an der Edge oder in einer zentralisierten Infrastruktur erfolgen. Wenn Sie als Partner den Unterschied verstehen, können Sie besser erkennen, wo Kunden flexibel sind und wo ihre Workloads anspruchsvoller sind und spezielle Lösungen erfordern.

Fünf Fragen an Ihre Kunden

Bevor Sie Produkte empfehlen, finden Sie erst heraus, was für die Workload benötigt wird. Diese fünf Fragen helfen Partnern, geeignete Bereitstellungsoptionen zu ermitteln und den Kunden die Vor- und Nachteile zu erläutern.

• Müssen die Daten lokal gehalten werden? Sensible Informationen, Branchenregeln und Unternehmensrichtlinien sprechen wahrscheinlich dafür, die Verarbeitung auf dem Gerät oder innerhalb der kundeneigenen Infrastruktur durchzuführen.
  
  
• Wie schnell muss die Workload reagieren? Bei Aufgaben, die Live-Videos, Maschinen oder interaktive Unterstützung beinhalten, erfolgt die Inferenz wahrscheinlich eher in unmittelbarer Nähe des Ortes, an dem die Daten erstellt werden.
  
  
• Muss sie ohne zuverlässige Konnektivität funktionieren? Für Remote-Standorte, mobile Mitarbeiter und eingeschränkte Umgebungen muss KI auch dann weiter funktionieren, wenn keine Verbindung besteht oder diese unzuverlässig ist.
  
  
• Wie viele Benutzer oder Systeme müssen darauf zugreifen? Ein einzelner Mitarbeiter, der einen lokalen Assistenten nutzt, unterscheidet sich deutlich von einem gemeinsam genutzten Modell für das gesamte Unternehmen, insbesondere wenn sich der Bedarf im Laufe der Zeit ändert.
  
  
• Wie entwickeln sich die Kosten, wenn die Nutzung steigt? Das Ausführen von KI über Cloud-APIs kann zu fortlaufenden tokenbasierten Kosten führen, während bei lokaler KI Hardware und Betriebskosten einbezogen werden.

Dieser letzte Punkt ist umso wichtiger, wenn KI Teil der täglichen Arbeit wird. Cloud-KI-APIs können auf Basis der Tokennutzung abgerechnet werden, während Unternehmensabonnements auf nutzerbasierten oder anderen Preisen beruhen können. Bei nutzungsbasierten APIs können sich die Kosten mit dem steigenden Anfragevolumen und Tokenverbrauch erhöhen.

KI-Kosten mit dem AMD KI-Kostenrechner verstehen

Nutzen Sie den AMD KI-Kostenrechner, um geschätzte Kosten für unterstützte lokale und Cloud-KI-Szenarien zu vergleichen. Geben Sie die Teamgröße, die erwartete Nutzung, das ausgewählte Cloud-Modell und den Analysezeitraum ein, um zu ermitteln, wie sich die Kosten mit zunehmender Einführung verändern könnten.

Der Rechner schätzt die Kosten über den von Ihnen gewählten Zeitraum. Er vergleicht auch die Cloud-API-Kosten mit laufenden unterstützten KI-Workloads auf AMD Geräten oder über eine Kombination aus lokaler und Cloud-Verarbeitung, einschließlich Schätzungen für Betriebs- und Hardwarekosten. Für Partner ist er eine großartige, einfache Möglichkeit, den Kunden zu zeigen, wie sich unterschiedliche Entscheidungen auf die Kosten auswirken, wenn ihre KI-Nutzung steigt.

Nutzen Sie die Ergebnisse als Ausgangspunkt. Bevor Sie eine Bereitstellung empfehlen, prüfen Sie die Modell- und Softwarekompatibilität und berücksichtigen Sie Lizenz-, IT-Support- und sonstige Kosten, die nicht in den Annahmen des Rechners berücksichtigt sind.

Gerät, Edge, Rechenzentrum oder Cloud?

Sobald Sie ein klareres Bild davon haben, was die Workload braucht, können Sie leichter herausfinden, wo sie ausgeführt werden soll.

KI auf dem Gerät bietet sich an, wenn Mitarbeiter unterstützte Anwendungen benötigen, um Daten lokal zu verarbeiten oder einen unterbrechungsfreien Betrieb zu gewährleisten. Systeme mit AMD Ryzen™ AI PRO Prozessoren kombinieren CPUs, GPUs und NPUs zur Unterstützung lokaler KI-Anwendungen, von Produktivitätstools bis hin zur Dokumentenerstellung. Eine lokale Verarbeitung kann die Abhängigkeit von Netzwerkverbindungen reduzieren und Netzwerk-Roundtrips für unterstützte Workloads vermeiden.

Mehr erfahren über Unternehmens-KI-PCs und hybride KI

Edge-KI eignet sich, wenn Kameras, Sensoren oder Equipment Daten dort verarbeiten müssen, wo sie generiert werden. AMD Ryzen™ AI Embedded X100-Serie Prozessoren kombinieren CPU-, GPU- und NPU-Beschleunigung für Systeme, die lokale KI neben anderen anspruchsvollen Aufgaben bewältigen müssen. Wenn man einen Großteil dieser Verarbeitung vor Ort ausführt, kann die Menge der Rohdaten, die über das Netzwerk versendet werden, reduziert werden, was wiederum die Bandbreitenanforderungen entlastet und es zeitkritischen Systemen ermöglicht, zu reagieren, ohne auf Remote-Services warten zu müssen.

Eine zentralisierte Rechenzentrumsinfrastruktur kann eingesetzt werden, wenn größere Modelle, gemeinsam genutzte Services oder intensives Training Ressourcen benötigen, die über einzelne Geräte hinausgehen. AMD EPYC™ Server-CPUs und AMD Instinct™ GPUs unterstützen intensive Inferenz, Modelltraining und die Services, die den Betrieb von Unternehmens-KI-Systemen aufrechterhalten. Der AMD Enterprise AI Reference Stack unterstützt Unternehmen dabei, KI über eine offene Softwaregrundlage in der AMD Infrastruktur bereitzustellen und zu verwalten.

Details zu AMD EPYC Server-CPUs für Unternehmens-KI erhalten

Cloud-Services bieten sich an, wenn Kunden Zugriff auf gehostete Modelle oder Kapazität benötigen, die sie an eine veränderte Nachfrage anpassen können. Bei einigen Unternehmen ist es unter Kosten- und Skalierungsgesichtspunkten sinnvoller, große KI-Workloads innerhalb der eigenen Rechenzentren zu belassen. Andere bevorzugen möglicherweise Cloud-Services für Workloads, die schwanken oder Ressourcen benötigen, deren interne Bereitstellung sich nicht rechtfertigen lässt.

Argumente für hybride KI

Unterschiedliche Aufgaben innerhalb des gleichen KI-Workflows können für unterschiedliche Umgebungen geeignet sein. Mit einem hybriden Ansatz können Kunden bestimmte Arbeiten lokal ausführen und gleichzeitig zentralisierte oder Cloud-Ressourcen für Aufgaben nutzen, die zusätzliche Kapazität oder unterschiedliche Modelle erfordern.

AMD bietet ein hilfreiches Beispiel dafür, wie viel KI-Arbeit in der richtigen Anwendung lokal bewältigt werden kann. In dem Artikel „Advancing AI 2026“ beschreibt AMD ein Kundensupport-Szenario, bei dem ein System mit AMD Ryzen™ AI Prozessoren, das Lemonade ausführt, routinemäßige Modellanfragen auf dem Gerät bewältigte und umfassendere Anfragen an ein Cloud-Modell sendete. Im Rahmen dieses konkreten Szenarios berichtete AMD, dass 69 % der Tokenverarbeitung lokal stattfanden und 31 % an die Cloud ausgelagert wurden.

Diese Zahlen stammen aus einem einzigen Szenario, weshalb die Aufteilung bei anderen Kunden unterschiedlich ausfallen wird. Das Beispiel ist vor allem deshalb aufschlussreich, weil die Anwendung die Entscheidung für einzelne Anfragen trifft. Lokale KI kann die Aufgaben bewältigen, für die sie geeignet ist, und bei Bedarf besteht Zugang zu größeren Cloud-Modellen. So bleibt der Umgang mit Daten und Sicherheit stets im Vordergrund, und die laufenden Cloud-Computing-Kosten können gesenkt werden.

AMD Ryzen AI Prozessoren können die Arbeit auf Mitarbeitergeräten unterstützen, AMD Ryzen™ AI Embedded Prozessoren können Inferenz in Vor-Ort-Systeme integrieren und AMD EPYC Server-CPUs und AMD Instinct GPUs können zentralisierte Workloads unterstützen. Das Ergebnis ist mehr Flexibilität, um auf die aktuellen Aufgaben der Kunden einzugehen und darauf, wie sich deren KI-Anforderungen sowohl kurz- als auch langfristig entwickeln könnten.

Kunden helfen, die passende Lösung zu finden

Die zu Beginn dieses Artikels genannten Fragen bieten Partnern einen hilfreichen Ausgangspunkt. KI auf dem Gerät und an der Edge kann sinnvoll sein, wenn sofortige Antworten oder eine Offline-Nutzung wichtig sind. Daten, die lokal und außerhalb Cloud-basierter Plattformen verbleiben müssen, können dann auf dem Gerät oder innerhalb der On-Premises-Infrastruktur verarbeitet werden. Für größere gemeinsam genutzte Modelle, intensives Training oder Kapazität, die mit der Nachfrage wächst, sollten Rechenzentrums- und Cloud-Optionen in Erwägung gezogen werden. Wenn Kundenanforderungen je nach Aufgabe variieren, sollte von Anfang an eine hybride Lösung in Betracht gezogen werden.

Sobald Sie die Optionen eingegrenzt haben, lohnt es sich, die Kosten gemeinsam zu prüfen. Wenn lokale KI-PCs Teil der Diskussion sind, kann der AMD KI-Kostenrechner Ihnen dabei helfen, die möglichen Kosten für die Ausführung von Aufgaben lokal und über Cloud-APIs zu vergleichen. Stellen Sie anschließend sicher, dass die vom Kunden gewählten KI-Modelle und die gewählte Software auch zur Hardware passen, und besprechen Sie, wie die Verwaltung und der Support der Lösung im Alltag aussehen würden.

Beginnen Sie das nächste Kundengespräch mit einer definierten KI-Workload. Nutzen Sie die fünf Fragen, um geeignete Bereitstellungsoptionen zu ermitteln, vergleichen Sie ggf. die geschätzten Kosten mit dem AMD KI-Kostenrechner und validieren Sie die Modell- und Softwarekompatibilität, bevor Sie Hardware empfehlen. Besprechen Sie mit Ihrem AMD Ansprechpartner, wie AMD Prozessoren, Beschleuniger und Software an die Workload-Anforderungen des Kunden angepasst werden können.