IXThinker·2025-08-17 21:10

北大首創複數大模型 2比特量化推理僅用加法

大模型推理向來耗用大量存儲與算力。北京大學團隊提出首個複數大模型量化方案iFairy，把權重壓縮至2比特之餘，更令乘法化繁為簡，為模型輕量化闢出新路徑。

量化新思路

團隊將模型權重量化到複數集合{+1、-1、+i、-i}，四個值剛好可用2比特表示，存儲壓縮至原本的八分之一，遠低於常見的FP16格式，顯著減輕部署負擔。