北大團隊小模型 數學代碼比肩滿血DeepSeek
北京大學楊仝團隊發布高效大模型FairyR1-32B,以DeepSeek-R1-Distill-Qwen-32B為基座,結合微調與模型合併技術構建,只用約5%參數便在數學與代碼任務上超過滿血版DeepSeek,模型已在Hugging Face開源。
模型構建
FairyR1-32B基於DeepSeek-R1-Distill-Qwen-32B基座,透過結合微調與模型合併技術構建。團隊探索的方向,是在參數量大幅減少的情況下,讓模型在特定任務上實現與更大模型相當甚至更優的性能。
IXThinker 會員內容
呢篇係 Archive 內容。登入即可解鎖全文,仲有成個 15,000+ 篇、每日更新嘅 AI 動態資料庫。
免費登入/註冊解鎖全文 →Google 或電郵地址即可,即刻解鎖。
