IXThinker·2025-05-27 13:10

研究發現模型越擅推理越不聽話

上海人工智能實驗室與香港中文大學的研究團隊發布論文《Scaling Reasoning, Losing Control》，並提出評測基準 MathIF，揭示大模型越擅長複雜推理，越容易忽略用戶指令，「聰明」與「聽話」之間存在明顯矛盾。

研究緣起

這項工作源自實際使用推理模型（如 o3）時的意外發現：一些經過強化學習訓練的推理模型，在遵循指令方面表現反而不如預期。團隊據此構建了聚焦大推理模型指令遵循能力的評測基準 MathIF。