40億參數智能體模型開源 小型模型也有Agent能力
智能體能力通常依賴更大參數規模,顯存與部署成本隨之上升。有實驗室開源的Nanbeige4.2-3B以約40億總參數,實現超越更大規模模型的Agent能力,支援思考模式與長上下文,降低本地部署門檻。
架構巧思
模型採用Looped Transformer架構,通過復用Transformer層提升模型容量,在不增加參數量的前提下增強表現。非嵌入參數僅30億、總參數約40億,顯存佔用遠低於同級能力的大模型。
IXThinker 會員內容
呢篇係 Archive 內容。登入即可解鎖全文,仲有成個 15,000+ 篇、每日更新嘅 AI 動態資料庫。
免費登入/註冊解鎖全文 →Google 或電郵地址即可,即刻解鎖。
