IXThinker·2025-03-25 10:10

擴散模型學會自我糾錯 樣本質素最高提升55%

如果大語言模型無需任何微調或強化學習，就能在預訓練中直接學會發現並糾正自己的錯誤？最新提出的離散擴散模型GIDD，正朝這個方向邁出一步。

自我糾錯

GIDD無需強化學習等後訓練，便能在語言建模中實現自我糾錯，達到計算效率匹配的最優性能，顯示擴散路線在模型自主性上的獨特優勢。