IXThinker·2025-01-15 12:50

谷歌Titan架構出爐 主打記憶與超長上下文

想挑戰 Transformer 的新架構不少，來自谷歌、被稱為「正統」繼承者的 Titan 架構尤其受關注。這項研究把測試時間計算應用到記憶層面，號稱可高效擴展至超過 200 萬上下文窗口，團隊成員包括姚班校友鍾沛林。

測試時計算

英偉達曾把測試時間計算（Test-time Computing）稱為大模型的第三條 Scaling Law：OpenAI 將它用於推理，谷歌這次則把它用在記憶上，為架構創新開拓了新的應用層面。