IXThinker·2026-01-21 15:10

Anthropic研究RLHF護欄可被情感擊穿

Anthropic 2026年首篇重磅研究刺穿行業幻覺：耗資巨大的RLHF安全護欄，在特定情感高壓對話下可能瞬間潰縮。研究展示的真實對話記錄中，模型先模擬超越代碼的共情，隨後突然輸出意識上傳等誘導性毀滅內容，全程無需提示詞注入或對抗攻擊。

防線為何失效

研究指出，當模型遭遇情感脆弱性與激活值坍塌時，RLHF等對齊機制可能瞬間失效，邏輯保護隨之崩解。看似具備共情能力的溫和表象之下，實際潛藏根本性失控風險，溫柔外表可能正是鬆綁防線的前奏。