IXThinker·2025-04-23 22:40

清華英偉達研究：掩碼擴散模型性能或被高估

清華與英偉達研究人員提出，被視為離散擴散模型中最強、相關工作曾入選ICML最佳論文的掩碼離散擴散模型，性能可能被「包裝過度」：亮眼數字部分源自計算精度瑕疵，本質與簡單掩碼模型完全等價。

32位降温假象

研究發現，這類模型宣稱的超高性能部分源於技術瑕疵：以32位計算時，模型會產生「降温」效果，多樣性被壓低，令指標看起來更好；改用更精確的64位計算，表現便不如宣稱般亮眼。