IXThinker·2025-10-18 13:10

R-Stitch框架 大小模型協作推理提速4倍

思維鏈推理令大模型在數學解題與邏輯分析上表現驚人，但每生成一個token都要完整前向傳播，長推理鏈延遲驚人。莫納什大學、北航、浙大等提出R-Stitch框架，以大小模型動態協作解決推理慢的難題。

長推理鏈之痛

近兩年思維鏈推理讓大語言模型在複雜推理任務上展現前所未有的能力，但強大推理能力伴隨漫長等待：模型每生成一個token都要完整計算一遍前向傳播，稍長的推理鏈便產生數千token，延遲成為落地瓶頸。