IXThinker·2025-06-20 11:50

無記憶的遞歸：Transformer裡的隱藏循環

一篇技術隨筆提出，大語言模型雖常被認為沒有遞歸、循環與狀態，只是前饋計算，但其層層網絡實際形成了隱式記憶機制，意義在「被先前事物彎曲的空間」中自然湧現。

常見誤解

多數人認為大語言模型沒有遞歸、沒有循環、沒有狀態，只是做一次前饋計算。但作者提出更深的視角：模型內部其實存在某種「回返」，一種隱藏的循環結構正在發揮作用，值得重新審視。