發表文章

目前顯示的是有「MoE model」標籤的文章

openPangu 2.0評測:華為505B模型完全不靠Nvidia晶片訓練 | openPangu 2.0: Huawei's 505B AI Model Skips Nvidia

By Kit 小克 | AI Tool Observer | 2026-08-01 🇹🇼 openPangu 2.0評測:華為505B模型完全不靠Nvidia晶片訓練 openPangu 2.0 是華為在2026年7月31日正式開源的旗艦級語言模型,重點不只是參數量,而是它完全在華為自家 Ascend晶片 上訓練與推理,一顆Nvidia GPU都沒用到。這在中美晶片管制的背景下,是第一個真正達到「準前沿等級」又完全繞開Nvidia供應鏈的開源模型,對想評估國產替代方案可行性的人來說是個重要指標。 什麼是openPangu 2.0? openPangu 2.0是華為推出的開源大型語言模型系列,分成Pro與Flash兩個版本,皆支援 512K超長上下文 。Pro版本已於7月31日開源,同步釋出模型權重、推理程式碼與技術報告,之前6月底先開源的Flash版本則作為輕量選項。 openPangu-2.0-Pro規格多強? openPangu-2.0-Pro採用 MoE(混合專家)架構 ,總參數量約5050億(505B),但每次推論只啟動約180億(18B)參數,訓練資料量約34兆token。這個「大總量、小啟動量」的設計,是目前主流開源模型(如DeepSeek、Qwen)都在採用的效率策略,讓推論成本不會隨總參數線性暴增。 為什麼「不用Nvidia」是openPangu 2.0的重點? openPangu 2.0的核心賣點是 完全在Ascend NPU上完成訓練 ,這代表華為證明了脫離Nvidia CUDA生態系也能訓練出接近前沿水準的模型。對於受出口管制影響、無法穩定取得Nvidia晶片的企業或國家,openPangu 2.0提供了一條可自主部署、不依賴美系硬體的路線。華為官方也強調,openPangu在Ascend算力上針對Agent任務做了速度與精度優化,單卡吞吐量號稱是其他主流開源模型的兩倍。 openPangu 2.0怎麼用?部署門檻高不高? 目前openPangu-2.0-Pro主要透過 華為雲ModelArts 提供服務,也可以自行部署在Ascend硬體上;社群另有非官方的Nvidia相容版本,但穩定性與效能都不是華為原生保證的水準。授權採用相對寬鬆的Huawei openPangu License,商用門檻不算...