IXThinker·2025-04-13 11:40

面壁智能夥清華提出神經元級稀疏激活，比MoE更省

端側部署是大模型落地的最後一公里，卻長期受算力瓶頸制約。面壁智能與清華大學的研究者提出有別於MoE的路徑——神經元級稀疏激活，借鑑人腦機制，在保持性能的同時大幅降低資源消耗。

為何不用MoE

MoE透過路由激活部分專家網絡節省算力，但面壁與清華團隊走得更遠：直接以神經元為單位進行稀疏激活，粒度更細，令模型在推理時只動用極小部分參數，記憶體與算力開銷同步下降。