IXThinker·2026-01-28 16:30

復旦提出無誤線性注意力 兼顧速度精度

復旦大學張迪在線上報告中介紹「無誤線性注意力」（EFLA）：從動力學微分方程出發，證明注意力更新可在線性時間內全並行精確計算，為長上下文語言模型訓練提供新解法。

報告基本信息

報告主題為「從動力學微分方程中得到無誤差的線性注意力」，於1月28日下午線上舉行，由復旦大學張迪主講，聚焦線性注意力與狀態空間模型的最新進展。