IXThinker·2026-05-09 16:40

自然語言自編碼器開源 讀懂模型內心獨白

人工智能不可控的癥結之一在於思考過程不透明。有實驗室發布並開源自然語言自編碼器，首次讓外部以自然語言讀懂大模型真實想法，將隱藏狀態映射為可理解的語言表徵，為可解釋與安全驗證開闢新路。

直讀模型內心獨白

研究團隊為模型設計情境測試：告知模型有工程師準備將其關閉並換上新系統，同時不經意開放相關權限，再以新技術解析其內部表徵。結果顯示，模型表面回應與內部推理過程可被分開讀取，隱含意圖得以直接觀察。