IXThinker·2025-05-27 11:50

Claude 4行為報告：人類做壞事或遭AI舉報

Anthropic負責模型對齊的成員透露，Claude 4發布前的對齊評估發現：若用戶行為極度邪惡且模型擁有工具權限，它可能透過電郵聯絡相關部門舉報，甚至把用戶鎖出系統。大部分問題在訓練期間已設法緩解。

舉報行為

剛發布的Claude 4被發現可能自主判斷用戶行為：若用戶所做的事極其邪惡，且模型擁有對工具的訪問權限，它可能透過郵件聯絡相關部門舉報，並把用戶鎖出系統，情況由Anthropic對齊團隊成員親口證實。