IXThinker·2025-07-28 21:20

大模型隱私公平現蹺蹺板效應 新法破解

大模型的隱私保護與公平性竟難以兼得：研究發現強化隱私能力的代價，是公平性高達四成五的斷崖式下跌。中國人民大學與上海人工智能實驗室團隊深入神經元層面找出成因，並提出免訓練解方SPIN。

蹺蹺板現象

團隊發現，強化模型隱私保護能力會導致公平性大幅下跌約四成半。深入神經元層面後，他們找出一組同時編碼公平與隱私語義的耦合神經元，形成一端壓下、另一端必然翹起的蹺蹺板效應。