新訓練範式於預訓練後植入價值觀 強化對齊
大模型訓練流程正被重新切分,一項新研究在預訓練與後訓練之間插入中訓練階段,先以專門文檔向模型講解規範與原則,再進行對齊微調。實驗顯示此舉可大幅降低智能體行為失準率,令價值觀內化更為系統。
插入中訓練階段
該範式簡稱MSM,精準置於預訓練之後、對齊微調之前。此階段不依賴合規行為案例,而是透過大量專門講解模型規範的合成文檔訓練,讓模型先完整理解須遵守的原則與價值內核,再進入後續環節。


IXThinker 會員內容
呢篇係 Archive 內容。登入即可解鎖全文,仲有成個 15,000+ 篇、每日更新嘅 AI 動態資料庫。
免費登入/註冊解鎖全文 →Google 或電郵地址即可,即刻解鎖。
