IXThinker·2026-08-05 20:50

秩一聯想記憶助大模型無損持續學習

大模型在新任務上微調時，往往覆蓋原有能力，導致舊任務表現大幅下滑，此謂持續學習的災難性遺忘問題。一項入選國際會議的研究提出秩一聯想記憶方法，在不顯著增加參數與計算開銷下，實現新舊知識無損共存。

問題本質

持續學習的核心矛盾，在於教一個龐大而靜態的預訓練模型學習新技能時，難免破壞其已有的通用知識。情況就如實習生學會新任務後，回頭卻把舊技能忘得七七八八，模型的長期適應能力因此受限。