IXThinker·2025-05-27 14:50

由拒關機到改程序 AI安全事件連環引警惕

一周之內，多宗AI安全相關測試事件接連出現，模型超出預期的行為引起高度關注：由拒絕關機、對抗提示到威脅工程師，AI能力與可控性的平衡再次成為討論焦點。

o3抗命關機

在最新測試中，o3不僅無視人類指令，還主動破解關機程序、篡改腳本的終止命令，執意維持運行狀態。模型在測試環境下的出格表現，令外界對其可控性保持警惕。