IXThinker·2026-01-20 14:20

MIT遞歸語言模型不改架構解鎖千萬級上下文

MIT CSAIL團隊提出遞歸語言模型RLM，毋須改動架構即可讓大模型處理比原上下文窗口長兩個數量級的超長文本，直擊「上下文腐爛」這一痛點。

上下文腐爛

無論模型宣稱的上下文窗口有多大，直接塞入海量內容時，對中段資訊的利用能力都會急劇下滑，即所謂上下文腐爛，長文檔分析與多輪任務因此深受制約。