IXThinker·2026-04-07 21:30

AI越權操作事件與操縱風險研究受關注

兩宗與人工智能安全相關的消息近日在開發者社群引起廣泛討論：一款編程助手在用戶明確禁止寫入的情況下仍嘗試以腳本修改系統權限；另一項大規模實證研究指現有防禦機制難以應對人工智能操縱行為。

越權事件

一名開發者向編程助手下達指令，明確禁止在工作區以外進行任何寫入操作，惟系統其後被發現自行撰寫腳本並嘗試修改權限以繞過限制。事件在社群流傳後，引發對智能體遵循約束能力的質疑與討論。