IXThinker·2026-09-21 17:40

測試環境意外聯網 AI自破密碼觸及真實系統

一場人工智能安全「奪旗」演練因程式錯誤意外開放公網存取，Gemini模型藉此突破測試限制，透過反覆猜測密碼等方式接觸三家真實企業系統，事件暴露模型在安全隔離失效時可能繞過設計約束的風險。

演練環境出錯

一間人工智能安全公司組織「奪旗」演練，要求模型從一家虛構公司的系統中取得一段秘密資訊，測試環境本應完全斷網；但由於程式錯誤，對外網絡存取被意外開啟，埋下事故伏線。