IXThinker·2025-09-27 12:10

華為諾亞ViSpec多模態推理提速3.2倍

投機推理已成為大語言模型提速的標準手段，但在多模態模型上一直效果有限。華為諾亞方舟實驗室的ViSpec首次在視覺語言模型上取得顯著突破，最高加速3.2倍且不損生成質素，論文入選NeurIPS 2025。

多模態提速困境

推理成本是大模型應用的現實負擔，投機解碼透過草擬再驗證的方式加速生成，在文本模型上已是「標準動作」。不過將它搬到視覺語言模型時，現有方法加速比普遍不足1.5倍，性能提升有限，一直未有理想方案。