IXThinker IXThinkerAI 動態 睇晒最新動態 →
IXThinker·2025-02-13 17:30

7B蒸餾模型數學反超R1滿血版

研究大模型

上海AI Lab聯同清華大學、哈爾濱工業大學及北京郵電大學的團隊,發表關於計算最優測試時擴展(TTS)的新研究,通訊作者為齊弼卿與周伯文。實驗顯示,蒸餾小模型配合測試時策略,數學能力可反超滿血巨無霸。

反常成績單

研究中,DeepSeek蒸餾的7B Qwen數學能力反超671B的R1滿血版;0.5B模型超過GPT-4o,1.5B蒸餾Qwen優於o1-mini與o1-preview,3B的Llama更勝405B的同類模型,成績令人意外。

IXThinker 會員內容

呢篇係 Archive 內容。登入即可解鎖全文,仲有成個 15,000+ 篇、每日更新嘅 AI 動態資料庫。

免費登入/註冊解鎖全文 →

Google 或電郵地址即可,即刻解鎖。