IXThinker·2025-01-06 00:40

微調大模型數據隱私攻擊達九成準確

華中科技大學與清華大學團隊提出針對微調大語言模型的成員推理攻擊方法 SPV-MIA，利用自校正機制判斷文本是否屬於微調數據集，將攻擊準確率首次提升至 90% 以上，揭示微調數據的隱私風險。

攻擊原理

成員推理攻擊旨在判斷特定文本是否曾用於訓練模型。該方法善用大模型強大的生成能力，結合自校正概率波動設計攻擊算法，即使模型已經微調，仍可追溯其訓練數據的成員資格。