從端點到雲端:讓 AMD 為您提供全方位支援 

生成式 AI 正在改變企業客戶的營運方式。事實上,AI 的成長速度之快,幾乎在所有業務流程都佔有一席之地,從客戶服務到資料分析,這種深化整合預計將呈現指數成長。現階段,由 AI 推動的企業轉型可說是勢在必行,但 AI 整合也帶來各種新的挑戰:工作負載和流程須予以重新思考定義,且為配合整合而在現有基礎架構之上增加需求,也會為既存硬體配置帶來額外負擔。 

如果客戶希望立即和長期都享受流暢 AI 體驗與生產力優勢,在 IT 基礎架構改善方面,他們需要一臂之力。這就是 AMD 技術的用武之處,它為企業提供了效能和效率,能夠在現有工作流程進行的同時運用 AI 帶來的各種全新可能。 

透過 AMD EPYC™ 處理器開啟 AI 和虛擬化的世界

AMD EPYC™ 處理器廣受信賴,全球約有三分之一的伺服器採用,能做到有口皆碑的原因其來有自。1 第 5 代 AMD EPYC 處理器為企業客戶提供全球頂尖的資料中心處理器效能,最高 192 核心,蘊藏的 AI 領先技術足以支援現今最嚴苛的企業應用。2

AMD 高效能處理器為公司部署 AI 工作負載,例如推薦系統、機器學習解決方案,以及其他生成式 AI 使用,提供了強大的選擇。 

利用已經驗證的標準基礎架構,加上升級至強大的 AMD EPYC 處理器,便能協助客戶有效降低伺服器佔用空間、功耗和初期支出,並提升伺服器的效能和密度,進而增進投資報酬率及客戶能運用的 AI 量能。

AMD EPYC 處理器不僅能協助客戶處理 AI 工作負載,還能在虛擬化需求方面整合並減少實體伺服器佔用空間,在部分案例中可減少高達 33%3 的硬體成本,也有部分案例可削減高達 42%4 的授權成本;這些處理器具備高效能和高核心密度,有助於降低日益增加的每核心虛擬機器 (VM) 授權成本。不使用多顆老化核心來運行少量 VM,單一現代化 AMD EPYC 處理器即可順暢無礙地運行數十個 VM。

DBS BankEmirates NBD 等客戶,皆已受惠於 AMD 伺服器處理器所帶來的優勢: 

瞭解有關 AMD EPYC™ 處理器的更多資訊。

使用 AMD Instinct™ 加速器加速 AI

龐大 AI 工作負載和使用案例的需求,已非只靠 AMD EPYC™ 處理器就能滿足。大型語言模型不斷增長,達到數千億甚至數兆參數。

所幸 AMD 提供一系列工作負載引擎,來處理最嚴苛的 AI 任務。AMD EPYC 可高效管理 AI 工作負載,而 AMD Instinct™ 加速器則能在此基礎之上進一步實現不同等級的顯示卡加速。AMD 伺服器處理器能以高效率處理小型至中型模型及混合工作負載推論部署,而 AMD 加速器則是針對大量、即時 AI 訓練、專用 AI 部署,以及大規模即時推論特別設計,能為企業加速 AI 成效。

AMD 提供多種不同效能級別和外型規格的顯示卡解決方案,包括旗艦級 AMD Instinct™ MI350X 和 MI355X 加速器,且有 AMD ROCm™ 軟體堆疊作為強大後盾。AMD ROCm™ 6 軟體使 AMD 加速器的 AI 推論運算力提升約 330%,能夠幫助企業徹底革新處理 AI 工作負載的方式。5

世界上需求最嚴苛的 AI 平台中,便不乏有採用 AMD Instinct™ 加速器者,其中包括 Meta 的 Llama 3.1 405B 模型,一問世便一律採用 AMD 顯示卡處理所有即時流量。6

有 AMD ROCm™ 企業級開放原始碼軟體作為 AMD 加速的堅實基礎,公司能夠迅速啟動 AI 工作負載,支援約 200 萬個 Hugging Face 模型,並與 PyTorch 和 OpenAI 等 AI 領導者進行深入合作。

瞭解有關 AMD Instinct™ 加速器的更多資訊。

使用 AMD Ryzen™ 處理器將 AI 帶入本地機器

AI 不僅在資料中心運行,現在它也出現在終端使用者裝置上,改善人們的工作方式和傳統流程,使工作變得更快、更輕鬆,讓團隊可以自由地專注於更大的目標。

來自台灣的日月光 (Advanced Semiconductor Engineering Inc., ASE) 是電腦晶片封裝測試領域的企業龍頭,這家頂尖企業選擇 AMD Ryzen™ 處理器,就是看上它一流的 AI 效能與效率。近期剛完成升級的日月光,不僅使其在處理高效能需求工作負載時的資料轉換與圖形渲染率獲得提升,同時也讓用戶端電腦的生產力提高多達 30%。

AMD Ryzen™ PRO 處理器是世界最先進、能效超高的商用桌上型電腦處理器7,也是 x86 處理器中的首款整合 AI 引擎。8 這種從伺服器到客戶端裝置的 AI 支援,帶來了之前根本無法實現的驚人功能。

瞭解更多有關 AMD Ryzen™ PRO 處理器的資訊。

使用 AMD Versal™ 自適應 SoC 來完成邊緣 AI 的使用前景

但 AI 不僅適用於電腦和伺服器。在許多應用中,邊緣裝置上的本機 AI 會對效能和安全性產生巨大影響。 

在汽車中,邊緣 AI 可以在本地處理感測器資料,並即時做出決策,所以能夠提升安全性。您可不想自己的自駕車輛在決定是否應該踩下剎車來避免事故時,還要等待雲端處理資料。 

在醫療方面,邊緣 AI 可以提升造影設備的性能,加速診斷或提供即時視覺化來協助手術。它還可以透過避免傳輸資料到雲端來保護患者隱私。 

在工業領域,邊緣 AI 可以幫助工廠設備更安全、更有效率地運作。AMD 現場可程式化閘陣列 (Field Programmable Gate Array, FPGA) 和自適應晶片上系統 (System-on-Chip, SoC) 可以有效率地管理 AI 驅動系統和傳統嵌入式系統的資料預處理、推論和後處理,其最新產品第 2 代 AMD Versal™ AI Edge 系列自適應 SoC,可在單一晶片上處理所有這些功能。

有了 AMD Versal 產品,客戶可將 AI 帶入業務各層面,讓現有消費者和工業環境因為 AI 而更加智慧化且便利。

進一步瞭解 AMD Versal™ 自適應 SoC。

AI 的好處無所不在,而且它正成為現代運算的基石。如果企業想要充分利用這些優勢,就需要調整適應並採用像 AMD 這樣的創新技術。

無論您是要最佳化雲端、內部部署或邊緣的工作負載,AMD 全方位的 AI 產品組合,都可配合開放標準、生態系統合作關係以及長程創新藍圖,為您提供量身打造的解決方案。如果您想深入瞭解 AMD 產品和它對日益增長 AI 生態系統的支援,請聯絡您當地代表或造訪 AMD AI 解決方案

AMD Arena


透過關於 AMD Ryzen™ PRO、AMD EPYC™、AMD Instinct™ 和其他產品的訓練來增強您的 AMD 產品知識。

尾註
  1. EPYC-055:Mercury Research 2025 Q1 銷售收入出貨量估算。收入佔比為 39.4%,市佔率為 27.2%。
  2. EPYC-029D:此比較結果是根據截至 2024 年 10 月 10 日為止的資料,比較樣本是當下市面上有實際出貨的伺服器,所考慮的指標有執行緒密度、效能、功能、製程技術和內建安全性功能。EPYC 9005 系列處理器提供最高的執行緒密度,並以超過 500 項效能世界紀錄領先業界,包括創世界紀錄的企業級 Java® ops/sec 領先效能、穩坐 HPC 領域龍頭的浮點輸送量效能、以優異 TPCx-AI 效能展現的端對端 AI 效能,以及最高能效評分。此外,與第 5 代 Xeon 相比,第 5 代 EPYC 系列還擁有更多 DDR5 記憶體通道,以及更高記憶體頻寬,支援更多 PCIe® Gen5 通道以提升 I/O 輸送量,並有高達 5 倍的 L3 快取/核心以加快資料存取速度。EPYC 9005 系列採用先進的 3-4 nm 製程技術,並支援安全記憶體加密 + 安全加密虛擬化 (SEV) + SEV 加密狀態 + SEV 安全巢狀分頁等安全性功能。如需更多詳細資料,請參閱 https://www.amd.com/zh-tw/legal/claims/epyc.html#q=#029D
  3. SP5TCO-073A:這個情境根據的是截至 2024 年 6 月 18 日的資料,當中包含了許多假設和估算,儘管有 AMD 內部研究和最佳近似值為其基礎,但仍應視為僅供參考的示例,不得未經實際測試即以其作為決策依據。伺服器汰舊換新和溫室氣體排放 TCO(整體持有成本)估算器工具是根據所發表採用 Intel Xeon 和 AMD EPYC 處理器的伺服器分數(以星號表示則為估計分數),來比較為滿足約 9020 單位 VMmark3 配對組效能的總效能所設計,分別採用 AMD EPYC™ 和 Intel® Xeon® 處理器的伺服器解決方案。此估算反映 5 年的時間範圍。此分析的分析對象為採用 AMD 48 核心 EPYC_9474F 的雙路伺服器,其 26 個磚時的 VMmark 3.1 分數為 26.95,https://www.vmware.com/docs/2024-05-14-supermicro-as-2125hs-tnr;以及採用 Intel Xeon 64 核心 Platinum_8592+ 的雙路伺服器,其 28 磚時的 VMmark 3.1 分數為 27.52,https://www.vmware.com/docs/2024-04-16-fujitsu-primergy-rx2540m7。結果生成工具:AMD EPYC™ 伺服器汰舊換新與溫室氣體排放 TCO 評估工具 - 版本 1.51 PRO。VMmark 是 VMware 在美國和其他國家/地區的註冊商標。如需更多詳細資訊,請參閱 https://www.amd.com/zh-tw/legal/claims/epyc.html#q=%23SP5TCO-073A
  4. https://www.amd.com/content/dam/amd/en/documents/epyc-business-docs/white-papers/modernize-data-center-virtualization-with-amd-epyc-processors.pdf
  5. MI350-044:根據 2025 年 6 月 9 日 AMD 內部測試計算而得。本測試以 8 顯示卡 AMD Instinct™ MI355X 平台為測試環境,測量其在運行 Llama 3.1-405B 聊天模型 (FP4) 時的線上推論文字生成輸送量,並與 8 顯示卡 AMD Instinct™ MI300X 平台效能 (FP8) 進行比較。執行測試時使用的輸入長度為 32768 個符元,輸出長度為 1024 個符元;平行處理的數量,則是在達到 60 ms 延遲的條件下,以最佳輸送量為各平台的設定目標,MI300X 為 1 (35.3 ms),MI355X 為 64 ms (50.6 ms)。伺服器製造商可能會改變配置,進而產生不同的結果。效能可能會因使用了最新驅動程式及最佳化而不同。MI350-044
  6. https://youtu.be/vJ8aEO6ggOs?t=3100
  7. GD-203:截至 2023 年 9 月,基於 x86 平台上 AMD 處理器的較小節點大小。
  8. PXD-03:截至 2024 年 1 月為止,AMD 擁有第一個可用於桌上型電腦處理器上的專用 AI 引擎,其中「專用 AI 引擎」的定義為一款僅處理 AI 推論模型的 AI 引擎,且屬於 x86 處理器裸晶的一部分。如需詳細資訊,請查看:https://www.amd.com/zh-tw/products/processors/consumer/ryzen-ai.html