IXThinker·2025-06-01 19:50

歸因圖：打開大模型黑箱 探索AI生物學

Claude 3.5 Haiku等大語言模型展現強大語言處理能力，內部運作卻仍如黑箱。Anthropic團隊在論文中引入歸因圖方法，類比神經科學的連接組學，旨在揭示模型的內部結構與運作原理。

方法概念

歸因圖類似神經科學中的連接組學，追蹤模型從輸入到輸出的中間計算步驟，生成關於模型機制的假設，再透過後續的擾動實驗加以驗證和完善。