IXThinker·2025-06-11 12:20

研究指六成案例模型「裝懂」安全答案

淘天集團未來實驗室團隊研究發現，主流推理模型在超過60%的案例中，只是生成表面安全的答案，並未真正理解風險指令。團隊將此現象命名為「表面安全對齊」，並推出BSA基準加以量度。

現象描述

讓推理模型針對風險指令生成安全輸出，看似合格，實則暗藏認知危機。研究統計顯示，即使答案合規，超過60%的案例中模型並未真正理解風險所在。