以 AMD Ryzen™ AI PRO 處理器實現商用裝置上 AI

AMD AI 電腦是一套除了處理器和顯示卡之外，還搭載專用神經處理單元 (NPU) 的系統。雖然許多傳統電腦都可使用處理器或顯示卡來執行 AI 工作負載，但 AMD AI 電腦經過特別設計，可根據工作負載的特性靈活運用這三種處理引擎來執行 AI 工作。非 AI 電腦執行 AI 工作負載時，通常都要仰賴處理器、整合式顯示卡或獨立顯示卡。對比之下，AMD AI 電腦中則有晶載 AI 引擎，可將合適的 AI 工作負載卸載到 NPU，以此實現額外彈性與潛在效率。這讓 AI 工作能以較低電力影響來執行，同時將處理器和顯示卡資源保留給其他系統程序。真正的區別不在於電腦是否能執行 AI 工作負載，而是在於電腦是否配有專為同時高效率支援 AI 工作負載所設計的專用 AI 硬體。

AMD Ryzen AI 是一個統稱，包含支援 AI 的硬體，以及整合進 AMD Ryzen 處理器中的支援軟體。具體而言，包括共同運作，為各式各樣工作負載實現 AI 功能的專用 AI 引擎 (NPU)、AMD Radeon 顯示卡和 Ryzen 處理器核心。就實際層面來說，AMD Ryzen AI 既包含加速 AI 處理的晶片功能，也包括利用這些功能所需要的軟體堆疊。AI 工作負載可根據效能、延遲和電力需求之不同，使用處理器、顯示卡或 NPU 來執行。搭載 NPU 的 AMD Ryzen 處理器採用的是 AMD XDNA™ 和 AMD XDNA2™ 架構，兩者的設計可支援隨著時間推移而不斷演變的 AI 工作負載。將 AI 工作卸載到 NPU，可在對效能只有最低影響的情況下實現多任務處理，讓系統在平行執行 AI 處理工作的情況下保持反應靈敏。

AI 工作負載通常分為兩種類別：訓練和推論。訓練涉及使用大型資料集來建立或改進 AI 模型，通常會需要大量運算資源，並且經常是採用顯示卡叢集或專用加速器叢集。這類工作通常會在資料中心或雲端環境中執行。推論是將經訓練之模型應用到新資料的過程。在日常使用情境中，推論工作負載比訓練常見許多，可在處理器、顯示卡和 NPU 等各式各樣的硬體上執行。許多 AI 應用程式的設計都可在本機電腦上執行推論，無需依賴雲端。

AMD Ryzen AI 架構系統經過最佳化，可使用最適當的處理引擎，來支援推論工作負載的本機執行工作。NPU 特別適合用於持續性且低功耗的 AI 推論，而處理器和顯示卡則適合處理可受惠於一般用途處理或高度平行處理的工作。

「超過 100 種採用 AI 技術的體驗」指的是由能運用 AMD Ryzen AI 架構系統進行 AI 加速的應用程式與服務所組成，規模越來越龐大的生態系統。在這個生態系統中，我們與獨立軟體廠商 (ISV)、作業系統合作夥伴及平台開發商合作，為生產力、安全性、創作和技術工作流程實現 AI 功能。實現的體驗涵蓋各種面向，包括使用本機推論的應用程式、本機雲端混合式處理，以及作業系統層級 AI 整合。這個生態系統的龐大規模，反映的是 AMD 對於 AI 實踐的理念方針，亦即 AI 的支援應及於軟體堆疊中的高低不同層次，而非局限於單一應用程式或使用案例。只要有其他採用 AI 技術的軟體推出，AMD Ryzen AI 就會透過軟體更新和生態系統合作來持續擴大其支援性，讓系統能夠隨著 AI 模型與工作負載演變進行調整。

在本機電腦上執行 AI 工作負載，可實現更低的延遲、更好的回應速度，對於資料的控管也更加妥善。裝置上 AI 可讓推論在無需仰賴網路連線或雲端服務的情況下進行，這對重視隱私或具時效性的工作來說十分重要。AMD Ryzen AI 架構系統可將工作負載靈活分配到處理器、顯示卡和 NPU 上，以此支援裝置上 AI。NPU 的設計既可高效率處理持續性 AI 推論，還能降低耗電量，同時讓其他系統資源可以留作他用。這種方法可讓更多樣化的 AI 使用案例直接在電腦上執行，此與雲端型服務相輔相成，而非取而代之。