新聞重點:
- Zyphra ZAYA1為首個完全採用AMD Instinct™ MI300X GPU、AMD Pensando™網路技術與ROCm開放軟體訓練的大規模混合專家(Mixture-of-Experts)模型。
- ZAYA1-base在多項基準測試中,效能超越Llama-3-8B和OLMoE,並與Qwen3-4B及Gemma3-12B媲美。
- AMD Instinct MI300X的記憶體容量協助Zyphra簡化其訓練資源,同時實現加快10倍的模型儲存時間。
台北,2025年11月25日 -- AMD (NASDAQ: AMD) 宣布Zyphra在大規模AI模型訓練方面達成重大里程碑,成功開發出ZAYA1,此為首個採用AMD GPU與網路平台訓練而成的大規模混合專家(MoE)基礎模型。這項成就得益於AMD Instinct™ MI300X GPU、AMD Pensando™網路技術,並由AMD ROCm™開放軟體堆疊所實現。
Zyphra測試結果顯示,該模型在推理、數學及編碼等基準測試中,與頂尖開放模型相比,展現出具有競爭力甚至更卓越的效能,充分彰顯AMD Instinct GPU在生產級AI工作負載方面的可擴展性與效率。
AMD人工智慧事業群人工智慧與工程全球副總裁Emad Barsoum表示:「AMD在加速運算領域的領導地位,正為Zyphra等創新者挹注動能,持續突破AI領域的極限。這項里程碑展示了AMD Instinct GPU與Pensando網路技術在訓練複雜大規模模型方面的強大能力與靈活性。」
Zyphra執行長Krithik Puthalath指出:「效率一直是Zyphra的核心指導原則,影響著我們如何設計模型架構、開發訓練與推論演算法,並選擇具備最佳性價比的硬體,以向客戶提供前瞻性的智慧。ZAYA1體現了這項理念,我們很高興成為首家在AMD平台上展示大規模訓練的公司。這個成果彰顯將模型架構與晶片及系統共同設計的強大力量,我們期待在建構下一代先進多模態基礎模型的進程中,深化與AMD及IBM的合作。」
AMD Instinct GPU為大規模高效訓練挹注強大動能
AMD Instinct MI300X GPU具備192 GB高頻寬記憶體,實現高效的大規模訓練,無須仰賴成本高昂的專家或張量分片(tensor sharding),從而降低複雜度並提升整個模型堆疊的吞吐量。Zyphra亦指出,透過AMD最佳化的分散式I/O,模型儲存時間加快10倍以上,進一步提升訓練的可靠性與效率。ZAYA1-Base僅以極小部分的活躍參數,總參數量8.3B、活躍參數760M的效能已可媲美甚至超越Qwen3-4B(阿里巴巴)、Gemma3-12B (Google)、Llama-3-8B (Meta)和OLMoE等模型註1。
基於先前的合作基礎,Zyphra與AMD及IBM緊密合作,設計並部署搭載AMD Instinct™ GPU及AMD Pensando™網路互連技術的大規模訓練叢集。這套由AMD與IBM共同開發的系統已於本季稍早發表,結合AMD Instinct™ MI300X GPU與IBM Cloud的高效能網路與儲存架構,為ZAYA1大規模預訓練奠定基礎。
欲進一步了解測試結果,ZAYA1模型架構、訓練方法以及本次開發所使用的AMD技術,請參閱 Zyphra技術報告、Zyphra部落格及AMD部落格。
相關資源
- 更多關於:AMD Instinct GPU
- 更多關於:AMD推進AI創新
- LinkedIn:於AMD LinkedIn追蹤AMD新訊
- X:於@AMD追蹤AMD新訊
關於AMD
逾55年來,AMD(NASDAQ:AMD)推動創新高效能運算、繪圖及視覺技術。AMD員工致力於研發領先的高效能與自行調適產品,不斷突破技術的極限。全球數十億的消費者、世界500強企業以及尖端科學研究機構皆仰賴AMD的技術來改善生活、工作及娛樂。欲瞭解AMD如何成就今天,啟發未來,請瀏覽AMD網站、部落格、LinkedIn及X。
註1:Zyphra於2025年11月14日進行的測試,旨在衡量Zyphra完整叢集在訓練迭代方面的總體吞吐量,以每秒千兆浮點運算次數(PFLOPs)為單位。此次測試的工作負載為在BFLOAT16精度下,訓練一個由一系列串聯的多層感知器(MLP)所組成的模型。該測試橫跨由128個運算節點組成的完整叢集,每個運算節點均配備8個AMD Instinct™ MI300X GPU和8個Pensando™ Pollara 400互連裝置,並運行Zyphra自行開發的專有訓練堆疊。伺服器製造商的配置可能會有差異,進而產生不同的結果。此外,效能也可能因使用最新的驅動軟體與最佳化而有所差異。此基準測試透過AMD ROCm 6.4進行。
新聞聯絡人:
美商超微半導體
高惠如 Robyn Kao
Tel:2655-8885 EXT.23352
Email: Robyn.Kao@amd.com
世紀奧美公關
黎淑玲 Jannie Lai
Tel:7743-9139
Email: JannieSL.Lai@eraogilvy.com
媒體庫
搜尋並下載最新的 AMD 公司和產品標誌、影像和幕後花絮