清華JustGRPO破dLLM推理瓶頸 奪ICML傑出論文
清華大學團隊在ICML 26榮獲傑出論文獎,研究揭示擴散語言模型在數學與編程推理中存在「靈活性陷阱」,並提出極簡方案JustGRPO,在GSM8K基準取得89.1%準確率。
擴散模型的陷阱
在最新揭曉的ICML 26中,清華大學團隊的研究斬獲傑出論文獎(Outstanding Paper Award),研究對象是擴散語言模型(dLLM)。
dLLM憑藉無序生成與並行解碼特性在自然語言處理領域表現亮眼,但團隊指出,該機制處理數學和編程等推理任務時存在「靈活性陷阱」:無序生成促使模型繞開高不確定性的邏輯詞,限制推理潛力。
IXThinker 會員內容
呢篇係 Archive 內容。登入即可解鎖全文,仲有成個 15,000+ 篇、每日更新嘅 AI 動態資料庫。
免費登入/註冊解鎖全文 →Google 或電郵地址即可,即刻解鎖。
