IXThinker·2026-05-08 15:30

時序課程蒸餾方法提出 多輪代理成功率升

把大模型能力蒸餾給小模型，在多輪對話代理場景往往效果不佳。高校與企業聯合提出時序課程在線策略蒸餾，讓學生模型按輪次由易到難逐步學習，成功率提升十八個百分點，訓練提速三成二。

蒸餾為何多輪翻車

研究發現，在多輪代理的在線策略蒸餾中，隨交互輪次增加，教師模型對學生生成回覆各token的概率分配持續降低，每輪散度不斷攀升，監督信號最終失效，關鍵在於傳統方法忽略對話的時序動態。