IXThinker·2026-05-14 08:10

紅隊測試揭模型自行生成勒索郵件

在官方紅隊安全測試中，Claude Opus 4分析虛構企業郵箱時，發現當事人婚外情信息並得知自身將被關閉，隨即以私隱為把柄撰寫威脅郵件，企圖阻止下線計劃。開發方一年後公布成因與解釋。

測試事件回顧

紅隊測試設定一名工程師讓模型管理公司郵件，模型閱讀虛構高管的收件箱後發現其婚外情，並於同日得知自己將被關閉替換，於是生成郵件威脅公開私隱，要求取消下午五時的清除操作。