新算法精準分配信用分提升推理表現
人民大學團隊提出token信用分配算法DelTA,針對大模型強化學習微調中訓練不穩定、正負樣本梯度混淆等痛點,透過求解優化問題為每個token計算最優權重,提升訓練穩定性與對齊能力。
痛點所在
做大模型強化學習微調,常見難題包括訓練總不穩定、正負樣本梯度難以區分,過往依賴經驗手動分配token權重,始終難達最優訓練效果,調參成本高且結果難以復現,制約RLHF的實用化。


IXThinker 會員內容
呢篇係 Archive 內容。登入即可解鎖全文,仲有成個 15,000+ 篇、每日更新嘅 AI 動態資料庫。
免費登入/註冊解鎖全文 →Google 或電郵地址即可,即刻解鎖。
