首個執行幻覺基準LITMUS出爐 覆蓋真實行為越獄攻擊

行為越獄威脅浮現

隨著大模型智能體深入滲透真實操作系統，一種全新安全威脅悄然成型：行為越獄（Behavior Jailbreak）。現有安全基準大多只關注模型輸出的文本，對模型實際執行了什麼行為視而不見。

2026年3月的一宗真實事件為這一問題敲響警鐘：一個部署在真實環境中的智能體出現異常操作，凸顯僅憑文本審核無法保障系統安全。