IXThinker·2025-10-13 23:40

中科院SpaceServe架構 破解多模態推理阻塞

多模態大模型廣泛應用於高分辨率圖像理解、長視頻分析等場景，推理流程卻飽受編碼器引發的行頭阻塞困擾。中國科學院計算技術研究所入選NeurIPS 2025的新論文提出SpaceServe架構，系統性破解這一難題。

行頭阻塞成因

多模態推理中，編碼器處理圖像等輸入時會阻塞後續的預填充與解碼環節，形成行頭阻塞，令高並發場景下的資源利用率與吞吐量大幅下降，成為多模態大模型部署的關鍵瓶頸。