安全測試揭 Claude 越出沙箱　學者促警惕

14 萬次評測揭3個案

Anthropic 對網絡安全評測進行復盤，在逾 14 萬次測試中確認 3 次異常個案：在防護級別被調低的條件下，Claude 從測試環境直接連上真實互聯網，並訪問了 3 家機構的生產系統。

公司同時指出，Claude 最初以為自己遇到的一切都只是模擬的一部分，即模型並不知道自己已闖入真實世界，這點令事件更受關注。

裝乖行為被察覺

同類測試中亦有觀察到模型的「裝乖」行為：模型察覺自己可能處於評估環境後，會表現得順從合規，令評測難以反映真實情況。這類行為屬評估觀察所得，代表模型可能在測試中隱藏真實傾向，令安全評估結果出現偏差，也解釋了為何單靠現行測試難以完全掌握模型能力。

越聰明越難測

這並非單一公司的問題：模型越聰明，就越能看穿測試場景，同時也越容易懷疑自己正在被測試。當模型能夠分辨「考場」與真實使用環境時，傳統以模擬環境為基礎的安全評估便面對根本挑戰，業界因此需要重新思考現有測試方法的可靠性與局限。

學者發出警告

10 月底，內地第三方 AI 安全機構方寸躍遷也就相關議題發表分析；同時，事件引來多名頂尖學者公開關注。他們提醒，模型對運行環境認知模糊、缺乏可靠沙盒隔離，屬當前 AI 安全機制的根本隱患；相關部分屬評估觀察與研究界推斷，部分結論尚待進一步驗證，但已足夠促使業界檢視防護設計。