IXThinker·2025-04-21 22:10

原生1bit開啟大模型輕量化新紀元

大模型輕量化迎來新玩法：微軟亞研院開源了第一款參數量達20億的原生1bit大語言模型BitNet b1.58 2B4T，把低精度與高效能結合，被形容為開創AI輕量化的新紀元。

名字裏的玄機

這個模型的巧妙之處都藏在名字裏：b1.58指其量化方案，權重取值僅為0和±1；2B4T對應20億參數與4萬億token訓練量，組合出輕量與能力的平衡。