AI 應該在哪執行？

AI 的執行位置十分重要

現今 AI 的執行位置已不再侷限於雲端：在員工電腦上、在邊緣、在客戶自家資料中心中，或是透過雲端服務執行。企業運用 AI 的方式日益多元，合適的配置取決於各項工作負載的需求：資料存取、響應靈敏的效能、可靠的連線能力、足夠的處理能力]，以及可控管的成本。

對於合作夥伴來說，這正是將上述需求轉化為務實基礎架構推薦的商機。本機文件助理與為多個場所提供服務的視訊分析系統，可能會需要不同的方法。應先評估工作負載，再確認 AI 工作負載應該在哪執行。

AI 工作的類型也十分重要。訓練或改進大型模型通常會需要資料中心或雲端中的大量運算力。客戶每天使用 AI 來處理的許多工作（例如產生文件摘要或協助員工完成例行工作）都涉及推論，也就是使用既有模型來處理新要求。這類工作有可能是在電腦、邊緣或集中式基礎架構中執行，需視模型與軟體而定。瞭解這項差異，有助於合作夥伴瞭解客戶的哪些方面擁有彈性，哪些方面的工作負載要求較高，需要特定的解決方案。

要詢問客戶的五個問題

推薦產品之前，請先確定工作負載的需求。以下五個問題可協助合作夥伴找出適合的部署選項，並向客戶說明各種取捨。

• 資料是否必須在本地處理？敏感資訊、業界規則和公司政策可能較適合在裝置上或在客戶自家基礎架構中處理。
  
  
• 工作負載需要多快的回應速度？涉及即時影片、機械或互動式輔助的工作，可能較適合在靠近資料建立位置執行的推論。
  
  
• 是否必須在連線不穩定的情況下運作？遠端位址、行動辦公的員工，以及連線受到限制的環境，可能會需要 AI 在沒有連線或連線不穩定時仍能持續運作。
  
  
• 有多少使用者或系統需要進行存取？單一員工使用本機助理，與整個企業共用一個模型的情況截然不同，尤其需求隨著時間改變的情況。
  
  
• 使用量增加時，成本會如何變化？透過雲端 API 執行 AI 會產生持續性的符元計費費用，而採用本機 AI 則需要將硬體與營運成本納入考量。

AI 融入日常工作後，最後一點就變得更加重要。雲端 AI API 可能要依據符元使用量計費，而企業訂閱服務可能會採用依席數或其他的定價模式。採用以量計價的 API 時，隨著要求數量與符元使用量增加，成本也會隨之提高。

運用 AMD Tokenomics 計算器瞭解 AI 成本

使用 AMD Tokenomics 計算器，比較支援之本機與雲端 AI 情境的預估成本。輸入客戶的團隊人數、預期使用量、所選雲端模型和分析期間，以探索隨著 AI 採用率提高，成本可能如何變化。

計算器可預估您所選期間內的成本。它也可針對在 AMD 裝置上或透過本機與雲端混合處理來執行受支援的 AI 工作負載，比較雲端 API 成本，並可提供營運與硬體成本的預估值。對於合作夥伴來說，這是一種絕佳的輕鬆方式，可向客戶說明隨著 AI 使用量增加，不同的選擇將如何影響成本。

請將結果當作起點。在推薦部署之前，請先確認模型與軟體相容性，並補充說明計算器假設未納入的授權、IT 支援和其他成本。

裝置、邊緣、資料中心，還是雲端？

在您更瞭解工作負載的需求後，就更容易判斷應該在哪執行。

如果員工需要使用支援的應用程式在本機處理資料，或在沒有持續網際網路連線的情況下工作，請考慮採用裝置上 AI。採用 AMD Ryzen™ AI PRO 處理器的系統結合處理器、顯示卡和 NPU，來支援從生產力工具到文件輔助等本機 AI 應用程式。本機處理可降低對網路連線的依賴，並免去受支援之工作負載的網路來回傳輸。

深入瞭解企業 AI 電腦與混合式 AI

如果鏡頭、感測器或設備需要在靠近資料建立位置進行處理，請考慮採用邊緣 AI。AMD Ryzen™ AI 嵌入式 X100 系列處理器整合處理器、顯示卡和 NPU 加速，適用於需要同時執行本機 AI 與其他高要求工作的系統。把更多這類處理工作留在現場，可減少原始資料在網路上傳送的數量，進而降低頻寬需求，有助於具時效性的系統立即回應，無需等候遠端服務。

如果更大型模型、共用服務或高強度訓練需要超出個別裝置所能提供的資源，請考慮採用集中式資料中心基礎架構。AMD EPYC™ 伺服器處理器與 AMD Instinct™ 顯示卡支援高強度推論、模型訓練，以及讓企業 AI 系統保持運作所需的各項服務。AMD Enterprise AI Reference Stack 也有助於企業透過開放軟體基礎在 AMD 基礎架構上部署與管理 AI。

取得適用於企業 AI 之 AMD EPYC 伺服器處理器的詳細資料

如果客戶需要存取託管模型，或需要能隨著需求變化進行調整的處理能力，請考慮採用雲端服務。對於某些企業來說，當論及成本與規模，將大型 AI 工作負載留在自家資料中心會更合理。某些企業則可能偏好將雲端服務用於會變動的工作負載，或是所需資源對這些企業而言，已經無法合理化將其留在內部的決策。

混合式 AI 的案例

同一個 AI 工作流程中的不同工作可能適合不同環境。混合式方法可讓客戶在本機處理適用工作，同時將集中式或雲端資源用於需要額外處理能力或不同模型的工作。

AMD 提供了一個實用範例，說明在合適的應用中，有多少 AI 工作可以在本機處理。AMD 在 Advancing AI 2026 文章中描述了一項客戶支援示範，展示一套採用 AMD Ryzen™ AI 處理器的系統由 Lemonade 負責在裝置上處理例行的模型要求，並將要求較高的要求傳送到雲端模型。在這整個特定示範中，AMD 指出 69% 的符元處理工作在本機完成，31% 卸載至雲端。

這些數據來自於單一示範，因此每位客戶的情況會有所不同。此範例的實用之處，在於應用程式如何針對個別要求作出決策；本機 AI 可處理適合的工作，並可在需要時存取更大型的雲端模型，將資料處理與安全性視為首要重點，並有助於降低持續性雲端運算成本。

AMD Ryzen AI 處理器可支援員工裝置上的工作；AMD Ryzen™ AI 嵌入式處理器可讓現場系統執行推論；而 AMD EPYC 伺服器處理器與 AMD Instinct 顯示卡則可支援集中式工作負載。如此一來，就能更有彈性地根據客戶現今的工作，以及其 AI 需求的短期與長期可能發展，來進行規劃與建置。

協助客戶找到合適選項

本文開頭提到的五個問題，可為合作夥伴提供實用的起點。在需要即時回應或離線使用的情況下，裝置上 AI 與邊緣 AI 會是合理選項，而必須在本機處理且禁止傳送到雲端平台的資料，則可在裝置上或內部部署基礎架構中處理。對於更大型共用模型、高強度的訓練，或可隨著需求增加的處理能力，請考慮採用資料中心與雲端選項。如果客戶需求會因工作而有不同，請從一開始就評估混合式配置。

在您縮小選項範圍後，銷售機會便會出現，適合與客戶共同探討成本。如果討論過程中提到了本機 AI 電腦，AMD Tokenomics 計算器可協助您比較在本機執行工作與透過雲端 API 執行工作的可能成本。接著，請確認客戶所選的 AI 模型和軟體是否與硬體具有良好相容性，並詳細說明這套配置在日常運作中需要如何管理，以及提供哪些支援。

以一個明確的 AI 工作負載展開下一段客戶對話。運用這五個問題找出合適的部署選項，視情況使用 AMD Tokenomics 計算器比較預估成本，並在推薦硬體前確認模型與軟體的相容性。請與您的 AMD 代表討論如何根據客戶的工作負載需求來選擇 AMD 處理器、加速器和軟體。