IXThinker IXThinkerAI 動態 睇晒最新動態 →
IXThinker·2025-07-03 20:30

MoE模型穩定推理的技術拆解

研究晶片硬體

混合專家(MoE)已成大模型主流架構,但如何推理得又快又穩仍是難題。以剛開源的盤古Pro MoE為樣本,可看清一條軟硬協同的技術路線。

架構設計

盤古Pro MoE基於MoGE混合專家架構,總參數量達720億、激活參數量160億,並針對昇騰硬體優化,在性能與效率之間取得明顯平衡。

IXThinker 會員內容

呢篇係 Archive 內容。登入即可解鎖全文,仲有成個 15,000+ 篇、每日更新嘅 AI 動態資料庫。

免費登入/註冊解鎖全文 →

Google 或電郵地址即可,即刻解鎖。