IXThinker·2026-09-01 18:50

國產LPU推理架構亮相 主打低搬運低能耗

一顆權重只有四比特，卻要為每個Token搬運數十億次——推理晶片初創寒序科技決定「不搬了」，正式發布uHBM與uLPU推理計算架構，直擊大模型部署中數據搬運這一核心瓶頸。

內存瓶頸之痛

大模型解碼階段，每生成一個Token都需要反覆讀取巨量模型權重。對於典型的內存受限型計算，限制速度的往往不是算力不足，而是權重必須一次又一次穿過存儲接口抵達計算單元。