IXThinker·2025-04-22 12:40

微軟開源2B參數原生1bit模型

微軟發布首個開源的2B參數規模「原生1bit」大語言模型BitNet b1.58 2B4T，單CPU就能運行，性能與同規模全精度開源模型相當，為大模型在低資源環境部署提供新選擇。

三進制權重

該模型採用三進制{-1, 0, 1}存儲權重，相較傳統16位浮點數大幅降低顯示記憶體需求，只需0.4GB記憶體即可運行，「以小搏大」成為其最大賣點。