最強大的機架規模 AI 基礎架構1

AMD Helios 機架規模解決方案採用完整整合式 AI 基礎架構設計,結合最新 AMD Instinct™ 顯示卡、AMD EPYC™ 伺服器處理器與 AMD Pensando™ 網路技術,並採用業界開放標準設計,可支援大規模推論、尖端模型訓練與微調。

最新消息

客戶與合作夥伴採用的最新消息

AMD Helios™ 機架規模重點特色

AMD Helios 機架規模設計整合 72 張 AMD Instinct™ MI455X 顯示卡、AMD EPYC™ Venice 處理器,以及採用 UALink 的 AMD Pensando™ Vulcano AI 網路介面卡。這些元件經過緊密協同設計,形成針對運算、資料移動與系統效率最佳化的架構。

AMD Helios 提供業界領先的記憶體容量與頻寬,可支援更大型的模型、更大的上下文視窗,以及反應極為靈敏的多代理工作流程。AMD Helios 採用 OCP Open Rack Wide (ORW)、Ultra Accelerator Link (UALink™) 與超級乙太網路聯盟 (Ultra Ethernet Consortium, UEC) 等開放標準,可在資料中心之間高效率擴充,同時針對現代 AI 基礎架構的電力、散熱與可維修性進行最佳化。

AMD Helios 機架規模解決方案規格

72x
AMD Instinct MI455X 顯示卡
2.9 EF
FP4 FLOPS²
1.4 EF
FP8 FLOPS²
31 TB
HBM4 記憶體容量²
23.3 TB/s
每張顯示卡記憶體頻寬²
260 TB/s
垂直擴充頻寬²
43 TB/s
橫向擴充頻寬²
AMD Helios Rackscale
AMD Helios Rackscale rear view
機架背面視圖

機架主要特色

同時支援 OCP 與 MX 資料類型,可提供 2.9 EF1 FP4 與 1.4 EF1 FP8 運算效能,滿足 AI 推論與訓練需求。

業界領先的 31 TB 最新一代 HBM4 記憶體,可提供 23.3 TB/s 的記憶體頻寬。

四個垂直擴充模組採用 UALink™ over Ethernet (UALoE),可在每套 AMD Helios 機架規模解決方案中流暢連接最多 72 張顯示卡,並提供業界領先、最高達 260 TB/s 的彙總垂直擴充頻寬。

採用符合業界標準的乙太網路式 Pensando 網路技術,提供 43 TB/s 橫向擴充頻寬,比競爭產品高出超過 50%3

作為集中式電力樞紐,透過垂直匯流排管理並分配整個機架的電力。

透過快速斷接接頭將液態冷卻劑分配至運算托盤與交換器托盤,以實現高效率散熱。

AMD Helios 為大規模 AI 提供安全防護,透過硬體信任根與各層級的持續認證機制,保護資料、模型與工作負載。AMD Helios 支援硬體強制隔離、裝置身分、記憶體加密與互連加密。最終形成一套設計內建安全性的平台,可在超大規模環境中支援可信賴的多租戶 AI。

AMD Helios 機架設計專為機架規模的可維修性而打造,結合模組化設計,與針對快速、低中斷維護最佳化的基礎架構。整合式電力、散熱與網路連接可免除重新配線,讓機架模組能快速且流暢地更換。最終打造出具高韌性、持續運作的基礎架構,在超大規模環境中充分提升正常運作時間。

AMD Helios 的運算、網路、機架設計與軟體皆採用開放標準,提供選擇、彈性與長期掌控能力。

AMD Helios 機架規模解決方案運算托盤

AMD Helios 機架規模解決方案交換器托盤

整合運算、記憶體與網路

AMD Helios 合作夥伴

獲領先 AI 公司採用

適用於 AMD Helios 基礎架構的開放式可擴充 AI 軟體

AMD ROCm™ 軟體將 AMD Helios 的機架規模架構轉化為生產級 AI 效能,充分發揮其機架規模運算能力。ROCm 專為透明且由社群推動的 AI 開發而打造,原生支援 PyTorch、TensorFlow 與 JAX 等領先框架,在保留開發人員熟悉的工作流程的同時,實現高輸送量推論與高效率分散式訓練。

它支援 AI 環境的大規模部署、可觀測性與生命週期控制。ROCm 透過最佳化程式庫、開放標準與廣泛的框架相容性,在確保可攜性的同時,充分提升尖端規模工作負載的效能。

常見問答

AMD Helios 機架規模解決方案是 AMD 首款機架規模 AI 參考設計,完全以 Meta 提交至 Open Compute Project (OCP) 的全新 Open Rack Wide (ORW) 標準打造。它在開放式雙寬 ORW 機架中整合 72 張 AMD Instinct MI455X 顯示卡、AMD EPYC™ 處理器、AMD Pensando™ DPU 與其他領先元件,專為現今 AI 規模資料中心而設計。

在 OCP Global Summit 上,Meta 推出採用 ORW 外型規格的全新 AI 開放式機架。AMD 透過 AMD Helios 機架規模解決方案採用這項開放式設計,並展示首套以 ORW 標準打造的完整機架。這展現了 AMD 對開放性的承諾,從晶片、系統、機架,一路延伸至大規模叢集。

早期的 OCP 機架採用單寬設計,主要針對一般用途伺服器。ORW 推出針對高密度 AI 系統最佳化的雙寬機架,提供更高供電能力、液冷,以及更寬的托盤,以容納大型加速器節點。AMD Helios 機架規模解決方案利用 ORW,將顯示卡、處理器、DPU 與其他元件整合為統一、易於維修且便於部署的 AI 系統。

完整的 AMD Helios 機架規模解決方案可提供最高 1.4 exaFLOPS 的 FP8 運算效能、2.9 exaFLOPS 的 FP4 運算效能,以及 31 TB HBM4 記憶體,可支援兆參數級 AI 訓練與大規模 AI 推論。

每張 AMD Instinct MI455X 顯示卡皆採用新一代 AMD CDNA™ 架構,配備 432 GB HBM4 記憶體,頻寬最高可達 23.3 TB/s,非常適合尖端級 AI 模型的推論與訓練。每張顯示卡可提供最高 40 PFLOPS FP4 運算效能,而每套 AMD Helios 機架規模解決方案則可提供 2.9 EF FP4 運算效能。

AMD Helios 機架規模解決方案是首款專為實際營運打造的雙寬 ORW 機架解決方案,結合模組化托盤與易於維修的設計,即使在電力受限的資料中心中也能維持穩定效能。它以 OCP、UALink 與 UEC 等開放標準取代專有的一次性設計,降低架構分散問題,進而實現高效率、高效能的大規模 AI 叢集。

這是一項參考設計,而非銷售產品。AMD Helios 機架規模解決方案是一套藍圖,供 OEM 與 ODM 合作夥伴依據開放式 ORW 標準打造自有品牌系統。

此平台採用 AMD ROCm™,這是一套開放原始碼 AI 與 HPC 軟體堆疊,可為 PyTorch、TensorFlow、JAX、ONNX Runtime、vLLM 與 Triton 提供無延遲支援。它可從單張顯示卡擴充至多機架超級叢集,並避免供應商綁定。

AMD Helios 機架規模解決方案參考設計目前已提供給合作夥伴,預計於 2026 年下半年展開大規模部署。

掌握最新動態

註冊以收到最新的資料中心消息和伺服器內容。

尾註
  1. 根據 AMD 效能實驗室於 2026 年 6 月針對 AMD Helios 機架規模解決方案所進行的計算,比較 Matrix FP16、BF16、INT8 的理論峰值效能,以及 Open Compute Project MXFP6、MXFP8、FP8 與 MXFP4 資料類型的理論峰值效能,並以 NVIDIA Vera Rubin NVL72 (NVFP4 Dense) 為比較基準。系統製造商可能改變配置,而產生不同的結果。MI400-005
  2. 根據 AMD 內部分析,實際結果可能有所變動。MI450-001