IXThinker·2025-03-29 16:50

Anthropic打造AI顯微鏡 追蹤大模型思維過程

Anthropic連發兩篇論文，借鑒神經科學提出新的可解釋性方法，如同為AI裝上「顯微鏡」，追蹤大模型複雜而令人驚訝的思維過程。

黑盒之謎

AI模型是訓練出來而非直接編程出來的，因此像一個黑盒，人們並不了解它如何完成大部分事情。理解LLM如何思考，有助把握其能力邊界，也有助於確保模型行為符合人類期望。