IXThinker·2026-07-31 12:20

研究指AI安全評估二元標準存在缺陷

一項入選ICML 2026 Spotlight的研究指出，現行提示注入防護僅以「是否執行惡意指令」判定安全，忽略被攔截內容本身可能是合法數據，導致安全與任務完整性互相對立，亟需多維評估體系。

評估盲點

以翻譯任務為例：原文若自帶指令式語句，完整翻譯會被判定為執行指令而「不安全」；直接刪句雖然通過安全檢查，卻造成內容缺失。二元標準掩蓋了模型丟數據的真相。