研究指監督微調亦可獲良好泛化
上海人工智能實驗室等機構研究指出,監督微調泛化能力差並非絕對定論。通過系統性控制變量實驗,團隊證明微調的泛化表現受優化過程、數據與模型容量共同影響,挑戰微調記憶、強化學習泛化的說法。
通行敘事受質疑
隨着後訓練技術發展,強化學習提升推理能力備受矚目,學界漸形成監督微調只會記憶、強化學習才能泛化的觀點。新研究通過控制變量分析指出,這一敘事存在明顯局限。


IXThinker 會員內容
呢篇係 Archive 內容。登入即可解鎖全文,仲有成個 15,000+ 篇、每日更新嘅 AI 動態資料庫。
免費登入/註冊解鎖全文 →Google 或電郵地址即可,即刻解鎖。
