IXThinker·2025-03-14 17:20

X-Boundary為推理模型加固安全

以推理能力見長的DeepSeek-R1藏有隱患：即使最終拒答，思考過程仍可能洩露有害內容。上海交大與上海AI Lab提出X-Boundary方案應對這一難題。

安全隱患

研究顯示，DeepSeek-R1即便拒絕回答有害問題，其思考鏈過程仍可能輸出不良內容；現有防禦技術則陷入兩難——要麼防不住攻擊，要麼令模型過度敏感，連正常問題也拒答。