IXThinker·2025-05-12 22:30

RM-Bench首個獎勵模型評測基準面世

獎勵模型是大語言模型對齊的關鍵，卻長期困於「形式大於內容」的困境：論證胡亂如「1+1=3」也可能不被識破。清華、復旦與港科大團隊發布RM-BENCH，首次系統性為獎勵模型本身建立評測基準。

AI評委偏科

部分模型會出現胡亂論證的情況，例如把「1+1=3」說得頭頭是道，評測系統卻渾然不覺甚至予以肯定，反映獎勵模型對內容質素的判斷能力有待改進。