IXThinker·2025-08-12 12:50

大模型為何被干擾訊息帶偏 上下文趨同機制解析

一場關於大模型行為機制的報告八月十三日舉行，主題為上下文趨同與干擾資訊的機制解析，相關論文獲 ACL 2025 傑出論文獎，為理解語言模型為何被無關內容帶偏提供新視角。

新現象的發現

研究團隊觀察到名為上下文趨同的現象：語言模型會顯著提高對任何在上下文中出現過的詞元的輸出機率，即使該詞元是隨機內容，顯示這是一種機制性反應。