IXThinker·2025-02-21 23:30DeepSeek新論文NSA：硬件對齊的稀疏注意力
DeepSeek發表新論文《Native Sparse Attention》，提出硬件對齊、可原生訓練的稀疏注意力機制NSA，為超長上下文提供新方案，論文公布後閱讀量迅速突破一百萬。
論文要點
NSA全稱Native Sparse Attention，核心是與硬件高度對齊、可原生訓練的稀疏注意力機制，為處理超長上下文提供物美價廉的方案，兼顧運算效率與模型性能。
IXThinker 會員內容
呢篇係 Archive 內容。登入即可解鎖全文，仲有成個 15,000+ 篇、每日更新嘅 AI 動態資料庫。
免費登入／註冊解鎖全文 →Google 或電郵地址即可，即刻解鎖。