IXThinker·2025-10-28 01:00

新型越獄攻擊成功率近九成 六大模型中招

監督微調與人類回饋強化學習提升了大模型安全性，但面對複雜越獄攻擊，防護機制仍有缺口。獲EMNLP 2025接收的新研究提出全新攻擊範式與配套防禦，六大主流模型在測試中全部中招。

新型攻擊範式

研究聚焦大型語言模型在生成過程中的注意力變化規律，據此設計出成功率接近90%的越獄攻擊方法，LLaMA、DeepSeek、ChatGPT等六大主流模型均受影響，凸顯現有防護的普遍短板。