7B蒸餾模型數學反超R1滿血版
上海AI Lab聯同清華大學、哈爾濱工業大學及北京郵電大學的團隊,發表關於計算最優測試時擴展(TTS)的新研究,通訊作者為齊弼卿與周伯文。實驗顯示,蒸餾小模型配合測試時策略,數學能力可反超滿血巨無霸。
反常成績單
研究中,DeepSeek蒸餾的7B Qwen數學能力反超671B的R1滿血版;0.5B模型超過GPT-4o,1.5B蒸餾Qwen優於o1-mini與o1-preview,3B的Llama更勝405B的同類模型,成績令人意外。


IXThinker 會員內容
呢篇係 Archive 內容。登入即可解鎖全文,仲有成個 15,000+ 篇、每日更新嘅 AI 動態資料庫。
免費登入/註冊解鎖全文 →Google 或電郵地址即可,即刻解鎖。
