IXThinker·2025-03-26 23:10

LLaDA大型語言擴散模型挑戰自回歸架構

大型語言擴散模型（LLDM）正成為自回歸架構之外的另一條技術路線。代表工作LLaDA以擴散方式建模文本分佈，論文、代碼與在線演示均已公開，引發研究者關注。

路線之別

主流大語言模型依賴自回歸方式逐字生成文本，LLaDA則提供基於擴散的替代方案，透過前向過程建模分佈，嘗試結合大型語言模型的表達能力與擴散模型的精細生成能力。