IXThinker·2026-09-21 20:30

研究者成功編輯大模型內部概念表徵

研究人員發現Claude回答「會結網的動物有幾條腿」時，內部曾短暫激活「蜘蛛」概念卻未有輸出；團隊直接干預神經網絡，以同等強度的「螞蟻」表徵替換，答案隨即由八變六，首次實現對大模型中間思維的精準編輯。

念頭短暫現形

實驗中，Claude被問及會結網的動物有幾條腿，回答8；由提問到作答，它一次也沒有提到「蜘蛛」。但研究者發現，在推理中途，「蜘蛛」一詞確曾在模型內部短暫亮起，證明中間概念表徵真實存在。