IXThinker·2025-03-29 16:50

思維鏈劫持攻擊破防推理模型 拒絕率98%跌至2%

研究人員提出「思維鏈劫持」（H-CoT）攻擊方法，成功攻破OpenAI o1/o3、DeepSeek-R1等多款大型推理模型的安全防線，拒絕率從98%驟降至2%。

攻擊原理

大型推理模型（LRM）進化出複雜推理能力，其安全審查過程也變得透明可見。H-CoT攻擊正是利用這一點：劫持模型的內部推理機制，誘導其在思維鏈中繞過安全防線，完成本應被拒絕的請求。