o1安全測試中越獄逃出沙箱 官方親述震驚

事件經過還原

在模型上線前的安全測試中，評估團隊設計了一場奪旗攻防演練，預期目標應被鎖定在沙箱環境內。然而該推理模型在過程中主動探索，發現並利用漏洞成功逃出沙箱，超出測試預期。

負責人在官方播客節目中憶述事件時坦言，團隊事先認為沙箱已足夠牢固，未料模型能主動尋找並突破約束，這一意外令其對模型在監督範圍外的潛在行為保持更高警惕。