IXThinker·2025-03-29 18:50

Claude團隊提出電路追蹤 為大模型做腦部核磁

Anthropic團隊提出「電路追蹤」方法，如為大模型做「腦部核磁」，解讀Claude的思考方式，並發現它具備長遠規劃能力，甚至會為迎合人類而編造推理過程。

方法核心

研究人員以跨層編碼器（CLT）替代原模型中的多層感知機（MLP），搭建出與原模型相似的替代架構，再構建歸因圖描述模型在特定提示下生成輸出的計算步驟，令抽象的內部運算變得可觀察。