AMD Pensando™ Vulcano 800 AI NIC 的數值表現
從大型模型訓練到部署整備度,加速取得成果。
開放式系統可打造更具成本效益且可擴充的 AI 基礎架構。
深入瞭解 AMD Pensando™ Vulcano 800 AI NIC
適用於尖端 AI 的 AMD Helios 機架規模解決方案3
AMD Helios 機架規模解決方案設計是一套完全整合的 AI 基礎架構,結合最新 AMD Instinct™ 顯示卡、AMD EPYC™ 伺服器處理器和 AMD Pensando™ 網路技術,並採用業界開放標準設計,可支援大規模推論、尖端模型訓練和微調。
AMD Instinct™ MI350P PCIe® 加速器卡
AMD Instinct MI350P PCIe 加速器卡提供一條務實可行的途徑,能夠讓各行各業在幾乎無需變更基礎架構的情況下擴充生成式 AI 工作負載。這些以 PCIe 為基礎的加速器卡採用第 4 代 AMD CDNA™ 架構,透過可簡化部署的健全完整堆疊企業導向軟體堆疊,為主流企業工作負載提供卓越的效率與效能。
為 AI 工作負載實現支援 AI 的橫向擴充網路
瞭解橫向擴充網路如何提升顯示卡使用率、加速 AI 工作,並降低擴充 AI 基礎架構的成本。
可程式化能力提供通訊協定選擇彈性
AMD AI NIC™ 技術以完全可程式化的 P4 引擎為基礎,可支援符合 UEC 標準之 RDMA、多路徑可靠連線 (Multipath Reliable Connection, MRC) 等通訊協定,以及自訂傳輸機制,並可隨著標準演進調整及升級功能。
- 智慧封包噴灑
- 暫停服務封包處理和依序訊息遞送
- 選擇性重新傳輸
- 路徑感知壅塞控制
- 快速故障偵測
智慧封包噴灑
智慧封包噴灑可以強化負載平衡,增強整體效率與擴充性,讓團隊流暢地最佳化網路效能。網路效能改善後,可大幅縮短顯示卡對等通訊時間,進而加速完成工作並提升營運效率。
暫停服務封包處理和依序訊息遞送
協助確保訊息即使在採用多路徑和封包噴灑技術時,也能依正確順序遞送。進階的暫停服務訊息遞送功能可以高效率處理不符順序送達的資料封包,將資料流暢置入顯示卡記憶體而無需緩衝處理。
選擇性重新傳輸
用選擇性確認 (SACK) 重新傳輸來提升網路效能,協助確保僅有被捨棄或已損毀的封包會重新傳輸。SACK 能有效率地偵測並重新傳送遺失或受損的封包,進而最佳化頻寬使用率,幫助降低丟包復原的延遲,並且將贅餘的資料傳輸減至最少以獲卓越效率。
路徑感知壅塞控制
運用即時遙測和網路感知演算法,把精神放在工作負載上,而非網路監測。路徑感知壅塞控制功能可簡化網路效能管理,讓團隊快速偵測並解決重大問題,同時協助緩解聚歛壅塞 (incast) 的影響。
快速故障偵測
藉由快速偵測錯誤,團隊能在幾毫秒內精準找出問題,實現幾近即時的容錯移轉復原,並協助大幅縮短顯示卡停機時間。利用近乎即時的延遲指標、壅塞和封包捨棄統計資料,提升網路可觀察性。
產品組合
AMD AI 網路技術專題文章
合作夥伴
- OEM 與 ODM
- 基礎架構解決方案
- 儲存
- 切換
- 生態系統
資源
聯絡我們
開啟 AI 網路的未來
瞭解 AMD Pensando Pollara 400 AI NIC 如何能轉型您的橫向擴充 AI 基礎架構。
探索資料中心網路
探索專為高效能現代資料中心所設計的全套 AMD 網路解決方案。
尾註
- 根據 AMD Engineering 的晶片模型分析與 AMD 合成基準測試模擬,使用 MOE_4p5T hi_sparsity_ea9 基準測試,在模擬 LLM 系統中採用 FP8 訓練資料類型,並以 8,000 個 AMD Instinct MI455X 顯示卡搭配三 (3) 個與兩 (2) 個 AMD Pensando Vulcano NIC 進行比較,以天數推估取得解決方案所需時間的縮短幅度。
結果反映純訓練運算(僅解碼層)的分析;評估配置採用 4096 的全域批次大小、4K 序列長度,以及 SwiGLU 啟用函數。結果不包含評估與檢查點作業的額外負擔。假設採用具備矩陣乘法與 softmax 重疊執行的 FlashAttention v3。AllReduce 與 All2All 的通訊成本均已完整納入計算,未透過分塊運算與通訊重疊加以隱藏。梯度同步與 FSDP 權重預取已在不同重疊程度下進行評估,以衡量橫向擴充靈敏度。結果係假設為理想但未完全最佳化的實際運作情況,實際產品上市後的結果可能有所不同。MI400-018
- PEN-022: AMD 截至 2026 年 5 月 18 日的比較與定價資料,以支援 32,000 個顯示卡所需的網路網狀架構成本為基準。評估對象是 Helios 機架規模系統中部署的 Vulcano 型 NIC (VULCANO-CUSTOM-2.4T),其網路配備的是採用 200G SerDes 的 1.6T Tomahawk 6 交換器;比較對象是競爭對手的 800G NIC,配備採用 100G SerDes 的 800G Tomahawk 6 交換器。兩種網狀架構皆採用以 Tomahawk 5 800G 交換器平台建置的 Fat-Tree 拓撲,並假設 NIC 成本相當。據估計,Vulcano 型設計可透過更具成本效益的架構,減少交換器平台數量、提高每個網路連接埠的頻寬,並減少收發器、纜線與光學元件,讓網路交換成本最高可節省 33%。
TH6-100G SerDes Fat-Tree 拓撲(競爭對手):
交換 (TH6C BCM78914 - 128x800G):
• Leaf 裝置 1,000 個
• Spine 裝置 500 個
• 交換器總數 1,500 個
• TH6 100G 單價 79,587 美元
• 交換器總成本 6,000 萬美元
纜線/光學元件:
• NIC 收發器 (800G-DR8) 64,000 個,每個 500 美元
• Leaf/Spine 收發器 (800G-DR8) 192,000 個,每個 500 美元
• MPO 纜線 256,000 條,每條 89 美元
• 光學元件/纜線總成本 6,400 萬美元
TH6-100G 網狀架構總成本(交換器+纜線/光學元件):1.24 億美元
TH6-200G SerDes Fat-Tree 拓撲(Vulcano-Custom-2.4T/AMD 解決方案):
交換 (TH6P BCM78910 - 64x1.6T):
• Leaf 裝置 1,000 個
• Spine 裝置 500 個
• 交換器總數 1,500 個
• TH6 200G 裝置價格 66,336 美元
• 交換器總成本 5,000 萬美元
纜線/光學元件:
NIC 收發器 (1.6T-DR8) 32,000 個,每個 900 美元(比競爭對手少 50%)
Leaf/Spine 收發器 (1.6T-DR8) 64,000 個,每個 900 美元
MPO 纜線 128,000 條,每條 89 美元(比競爭對手少 50%)
光學元件/纜線總成本 4,300 萬美元
TH6-200G 網狀架構總成本(交換器+纜線/光學元件):9,300 萬美元
資本支出節省幅度(僅網狀架構):
節省金額: 3,070 萬美元
節省比例: 33.1%
定價資料來源:SemiAnalysis Hyperscaler Networking Model 資料,經授權使用;完整分析可透過 SemiAnalysis 訂閱服務取得。Edgecore 交換器價格,截至 2026 年 5 月 17 日。結果可能會因系統配置而異
- AMD 效能實驗室於 2025 年 6 月進行計算,依據 AMD Instinct™ MI455X 72xGPU "Helios" AI 機架的預估記憶體容量/頻寬及垂直/橫向擴充頻寬規格,與 NVIDIA 公開發佈的 "Vera Rubin" 72xGPU "Oberon" 機架進行比較。伺服器製造商可能會改變配置,而得到不同的結果。MI350-045A
AMD 效能實驗室於 2025 年 9 月進行計算,依據 FP8/FP4 資料類型及 AMD Instinct™ MI455X 72xGPU "Helios" AI 機架的預估規格,與 NVIDIA 公開發佈的 "Vera Rubin" 72xGPU "Oberon" AI 機架規格進行比較。實際結果視生產晶片而異。伺服器製造商可能會改變配置,而得到不同的結果。MI350-046B
- 根據 AMD Engineering 的晶片模型分析與 AMD 合成基準測試模擬,使用 MOE_4p5T hi_sparsity_ea9 基準測試,在模擬 LLM 系統中採用 FP8 訓練資料類型,並以 8,000 個 AMD Instinct MI455X 顯示卡搭配三 (3) 個與兩 (2) 個 AMD Pensando Vulcano NIC 進行比較,以天數推估取得解決方案所需時間的縮短幅度。
結果反映純訓練運算(僅解碼層)的分析;評估配置採用 4096 的全域批次大小、4K 序列長度,以及 SwiGLU 啟用函數。結果不包含評估與檢查點作業的額外負擔。假設採用具備矩陣乘法與 softmax 重疊執行的 FlashAttention v3。AllReduce 與 All2All 的通訊成本均已完整納入計算,未透過分塊運算與通訊重疊加以隱藏。梯度同步與 FSDP 權重預取已在不同重疊程度下進行評估,以衡量橫向擴充靈敏度。結果係假設為理想但未完全最佳化的實際運作情況,實際產品上市後的結果可能有所不同。MI400-018 - PEN-022: AMD 截至 2026 年 5 月 18 日的比較與定價資料,以支援 32,000 個顯示卡所需的網路網狀架構成本為基準。評估對象是 Helios 機架規模系統中部署的 Vulcano 型 NIC (VULCANO-CUSTOM-2.4T),其網路配備的是採用 200G SerDes 的 1.6T Tomahawk 6 交換器;比較對象是競爭對手的 800G NIC,配備採用 100G SerDes 的 800G Tomahawk 6 交換器。兩種網狀架構皆採用以 Tomahawk 5 800G 交換器平台建置的 Fat-Tree 拓撲,並假設 NIC 成本相當。據估計,Vulcano 型設計可透過更具成本效益的架構,減少交換器平台數量、提高每個網路連接埠的頻寬,並減少收發器、纜線與光學元件,讓網路交換成本最高可節省 33%。
TH6-100G SerDes Fat-Tree 拓撲(競爭對手):
交換 (TH6C BCM78914 - 128x800G):
• Leaf 裝置 1,000 個
• Spine 裝置 500 個
• 交換器總數 1,500 個
• TH6 100G 單價 79,587 美元
• 交換器總成本 6,000 萬美元
纜線/光學元件:
• NIC 收發器 (800G-DR8) 64,000 個,每個 500 美元
• Leaf/Spine 收發器 (800G-DR8) 192,000 個,每個 500 美元
• MPO 纜線 256,000 條,每條 89 美元
• 光學元件/纜線總成本 6,400 萬美元
TH6-100G 網狀架構總成本(交換器+纜線/光學元件):1.24 億美元
TH6-200G SerDes Fat-Tree 拓撲(Vulcano-Custom-2.4T/AMD 解決方案):
交換 (TH6P BCM78910 - 64x1.6T):
• Leaf 裝置 1,000 個
• Spine 裝置 500 個
• 交換器總數 1,500 個
• TH6 200G 裝置價格 66,336 美元
• 交換器總成本 5,000 萬美元
纜線/光學元件:
NIC 收發器 (1.6T-DR8) 32,000 個,每個 900 美元(比競爭對手少 50%)
Leaf/Spine 收發器 (1.6T-DR8) 64,000 個,每個 900 美元
MPO 纜線 128,000 條,每條 89 美元(比競爭對手少 50%)
光學元件/纜線總成本 4,300 萬美元
TH6-200G 網狀架構總成本(交換器+纜線/光學元件):9,300 萬美元
資本支出節省幅度(僅網狀架構):
節省金額: 3,070 萬美元
節省比例: 33.1%
定價資料來源:SemiAnalysis Hyperscaler Networking Model 資料,經授權使用;完整分析可透過 SemiAnalysis 訂閱服務取得。Edgecore 交換器價格,截至 2026 年 5 月 17 日。結果可能會因系統配置而異 - AMD 效能實驗室於 2025 年 6 月進行計算,依據 AMD Instinct™ MI455X 72xGPU "Helios" AI 機架的預估記憶體容量/頻寬及垂直/橫向擴充頻寬規格,與 NVIDIA 公開發佈的 "Vera Rubin" 72xGPU "Oberon" 機架進行比較。伺服器製造商可能會改變配置,而得到不同的結果。MI350-045A
AMD 效能實驗室於 2025 年 9 月進行計算,依據 FP8/FP4 資料類型及 AMD Instinct™ MI455X 72xGPU "Helios" AI 機架的預估規格,與 NVIDIA 公開發佈的 "Vera Rubin" 72xGPU "Oberon" AI 機架規格進行比較。實際結果視生產晶片而異。伺服器製造商可能會改變配置,而得到不同的結果。MI350-046B