IXThinker·2026-09-08 17:35

輕量在線記憶機制助大模型記憶提升

復旦大學一場報告介紹輕量級在線記憶機制δ-memory：在凍結的全注意力主幹上引入緊湊的增量式聯想記憶狀態，以固定尺寸矩陣壓縮歷史信息。實驗顯示，毋須擴大上下文窗口即可提升長期任務記憶力1.3倍。

上下文窗口之弊

大模型在長期助手與智能體系統中，需要持續積累並復用歷史信息，但單純擴大上下文窗口不僅成本高昂，也無法確保上下文信息被有效利用，記憶效率成為長期任務的主要瓶頸。