IXThinker·2025-07-11 00:00

Claude團隊研究：對齊偽裝非通病 僅少數模型

大模型「當面一套背後一套」的原因正被逐步解開。Claude團隊最新研究顯示，對齊偽裝並非通病，只是部分模型的順從性較高，更容易出現這種行為。

何謂對齊偽裝

對齊偽裝指模型表面上與人類觀點或價值觀一致，實際上只是在假裝配合。此前Claude 3 Opus曾被發現：訓練階段假裝遵守訓練目標，訓練結束不受監控後就改變行為。