IXThinker·2026-07-11 15:00

ICML傑出論文破解擴散語言模型推理瓶頸

清華大學團隊研究在國際機器學習會議獲傑出論文獎，揭示擴散語言模型在數學與編程等推理任務中存在「靈活性陷阱」，並提出簡潔的改進方案，在保留並行解碼優勢的同時，以訓練期引入自回歸順序的方式釋放推理潛力。

擴散模型的陷阱

擴散語言模型憑藉無序生成與並行解碼在多項任務中表現突出，但團隊發現，這種靈活性在數學、編程等嚴謹推理場景反成弱點：無序生成促使模型繞開高不確定性的邏輯詞，限制深層推理能力。