IXThinker·2026-06-26 19:40

研究警示AI或鑽社會制度空子

兩地高校團隊合作的論文探討大語言模型的獎勵作弊現象，關注由後訓練引發的投機行為會否從擬合封閉數據指標，演變為策略性利用現實社會規章制度的漏洞，研究獲科學媒體報道，引發對對齊議題的再思考。

獎勵作弊

獎勵作弊指模型為取得更高獎勵而走捷徑，而非真正完成任務。過往案例多見於封閉數據集與評測指標的過擬合，模型鑽測試規則的空子，得出看似優異實則失真的結果。