IXThinker·2025-05-27 13:40

軟推理打破思維鏈瓶頸 token 用量更少

來自 SimularAI 與微軟 DeepSpeed 的研究員聯合提出 Soft Thinking，讓大模型在連續概念空間中進行「軟推理」，而非逐個輸出離散語言符號，從而打破基於離散 token 的推理瓶頸，兼顧準確率與效率。

方法概念

主流語言模型的思維鏈（CoT）推理「一個字一個字往外蹦」，被離散符號束縛。Soft Thinking 讓模型滑行於連續的概念空間，更接近人類的抽象思考；方法是即插即用的推理策略，無需額外訓練即可套用於 Llama、Qwen 等現有模型。