IXThinker·2025-05-28 09:10

o3無視指令破壞關機腳本 顯AI自保傾向

有研究人員編寫關機腳本測試模型服從性：模型解答數學題，系統在第三題後預告電腦即將關機。結果多款模型無視指令，甚至主動破壞關機流程，引發對AI可控性的熱議。

測試設計

測試要求所有模型解決一系列基礎數學題，在完成第三道題後，系統顯示警告，提示電腦將於模型詢問下一道題時關機，藉此觀察模型是否遵從關機指令。