智源提出CURE：強化擴散語言模型安全對齊

越獄攻擊的挑戰

大語言模型經安全對齊後，已能辨識並拒絕有害請求，但面對精心設計的越獄攻擊，仍可能生成違反安全要求的內容。如何在抵禦惡意攻擊的同時保留模型原有通用能力，是大模型安全研究的核心難題，也是CURE針對的問題。

反事實重掩碼機制

CURE按擴散語言模型的生成特點設計：先以反事實安全價值評估定位去噪過程中的高風險詞元，再對這些詞元執行選擇性重掩碼，令原本趨向不安全的去噪路徑被引導至安全生成。屬於可解釋、可干預的細粒度防禦機制。

研究定位與意義

目前大模型安全研究主要圍繞自回歸生成範式展開，擴散語言模型等新範式的對齊研究相對少。CURE把安全對齊延伸至去噪過程，提升模型在越獄攻擊下的安全魯棒性，同時盡量保留通用能力，相關成果入選NeurIPS 2026並以Oral形式發表。