IXThinker·2025-06-04 10:00

歸因圖打開大語言模型黑箱

強大的語言模型內部如何運作仍如黑箱。Anthropic團隊在論文《On the Biology of a Large Language Model》中提出歸因圖方法，借鑑神經科學思路為模型繪製「腦迴路」。

方法類比

歸因圖的做法類似神經科學中的連接組學：追蹤模型從輸入到輸出的中間計算步驟，生成關於模型機制的假設，再透過後續擾動實驗加以驗證完善。