IXThinker·2025-05-08 22:20

北航等系統評估Qwen3量化 8bit近無損表現

北京航空航天大學、西安電子科技大學與蘇黎世聯邦理工學院聯合團隊首次系統評估Qwen3的五種後訓練量化技術，涵蓋1至8比特位寬並與LLaMA3對比，結果顯示中度位寬下性能具競爭力，超低精度則明顯下降。

為何研究量化

Qwen系列刷新開源模型SOTA，但如何在資源受限場景下實現低比特量化、同時保證模型「智商」不掉線，是部署的關鍵。量化可減少參數量與計算成本，是邊緣部署的核心技術。