塊狀擴散語言模型出爐 兼具自回歸優勢

三大痛點

離散擴散模型現時面對三大局限：應用於聊天系統等場景時生成長度受限、推理效率偏低，以及生成質素不足，難以滿足實際應用對效率與可控性的要求。

相比自回歸模型，擴散模型的潛在優勢在於加速生成過程並提升輸出的可控性，因此成為近期語言模型架構變革中備受矚目的熱門研究方向。