IXThinker·2025-01-12 13:01

擴散模型壓至1bit 儲存省28倍效率升52.7倍

將擴散模型量化至1比特極限再創新高。北航、ETH等機構研究人員提出新方法BiDM，首次實現擴散模型權重與激活的完全二值化，在儲存節省28倍的同時，效率提升逾52倍，相關成果創下新SOTA。

量化難點

擴散模型的激活特徵與時間步高度相關，要在保持生成質素的前提下將權重與激活同時壓至1比特，一直是量化研究的難題。BiDM首次實現完全二值化，證明極限壓縮與生成效果可以並存。