IXThinker·2026-08-06 15:20

清華團隊梳理大模型記憶機制全景

大語言模型的突破長期歸功於參數、數據與算力的規模化，但「記憶」正成為同等關鍵的演進維度。清華大學團隊聯合海外機構發表系統研究，梳理從KV Cache到可持久化記憶模組的演進脈絡，描繪記憶機制的全景圖。

記憶的演進

從Transformer中伴隨計算產生的KV Cache，到線性遞歸網絡與狀態空間模型的隱式狀態壓縮，再到近期的Titans、測試時訓練及顯式持久化記憶模組，大模型的底層記憶機制正經歷深刻的範式轉換。