IXThinker·2026-07-29 16:10

VISReg新研究攻克JEPA表徵坍塌核心難題

自監督學習普遍面臨表徵坍塌難題：模型把不同輸入映射到極少數向量，未學到有判別力的表徵。新研究VISReg針對該難題提出解法，獲知名學者LeCun連續轉發，為JEPA世界模型帶來新進展。

表徵坍塌難題

JEPA世界模型的底層是自2017年起持續倡導的自監督學習路線，毋須人工標註即可從海量數據學習通用表徵，但長期受表徵坍塌困擾：不同輸入被映射到相同或極少數向量，模型實際未學到具判別力的表徵，訓練形同失效。