IXThinker·2025-11-20 17:10

螞蟻夥南洋理工推框架 微調後安全不降

螞蟻集團聯合南洋理工大學推出模型安全對齊框架EnchTable，針對微調令安全能力下降的問題，毋須重新訓練即可一鍵恢復模型安全意識，即插即用且不影響性能，已於多個架構與任務中驗證。

問題背景

近期多起事件顯示，模型的微調過程會嚴重削弱安全對齊能力，模型能力愈強反而愈危險，根本問題在於現行安全對齊的設計。業界因此需要能在微調後保持安全意識的解決方案。