IXThinker·2026-03-19 16:20

Kimi新架構獲馬斯克點讚 一作年僅17歲

Kimi團隊發表新架構研究，第一作者是一名17歲高中生。團隊把Ilya曾提出的「旋轉90度」設想從殘差網絡延伸到注意力機制，論文吸引馬斯克關注並稱令人印象深刻。

從Ilya設想起步

Ilya曾提出：把按時間順序處理數據的LSTM「旋轉90度」，時間軸換成深度軸，就得到殘差網絡。Kimi團隊由此類推：既然LSTM對應殘差，注意力機制同樣可以照做。