IXThinker·2026-03-21 15:10

IndexCache：DSA長上下文推理提速1.8倍

DeepSeek稀疏注意力DSA在長上下文推理中表現優異，但其索引器開銷隨上下文急增。清華與智譜團隊提出IndexCache予以提速。

DSA的瓶頸

DSA能在不損模型質素的前提下降低注意力計算開銷，但其輕量級閃電索引器仍具O(L²)複雜度，且每層獨立運行，整體開銷佔比隨上下文長度快速上升。