IXThinker·2026-01-14 15:10

DeepSeek新論文攻記憶難題 梁文鋒署名

DeepSeek深夜發表33頁新論文，創辦人梁文鋒署名，聯合北京大學團隊瞄准Transformer的記憶難題，提出與MoE互補的「條件記憶」稀疏軸及全新Engram模塊。

問題診斷

論文指出，MoE雖已成主流架構，本質仍是Transformer，天生缺少原生的「知識查找」機制，大量檢索能力被迫以龐大計算去模擬，效率因此受限。