IXThinker·2026-01-05 13:12

上下文腐爛有解 MIT遞歸語言模型處理超長文

讓AI讀長文檔，它常常讀着讀着就忘了前文，這一現象被稱為上下文腐爛；MIT在2025年最後一天發表論文，以遞歸語言模型正面迎戰這個通病。

上下文腐爛之困

大模型的記憶力隨文本變長而衰退：讀長文章會忘記前文，處理超長文檔時答案可能牛頭不對馬嘴，這是當前模型的普遍痛點，影響實際應用體驗。