IXThinker·2025-04-08 20:30

螞蟻伙人民大學推個性化對齊 冀大模型更懂用戶

人民大學與螞蟻的研究指出，現有大模型的對齊訓練基於無害、有用等普世原則，單一價值觀體系猶如暴力降維，令少數群體聲音被系統性淹沒。團隊據此探索個性化對齊，並開源大規模用戶畫像數據集。

對齊缺陷

現有對齊範式如同用同一副濾鏡處理所有影像：雖能保證基礎畫質，卻抹殺色彩差異。反饋數據收集的「集體智慧」，也往往演變成主流偏好的回聲室，教育背景與文化認同等關鍵差異在數據池中消融。