IXThinker·2025-02-19 15:00

LIM方法挑戰強化學習Scaling Law

DeepSeek-R1帶火強化學習訓練LLM之際，新研究提出LIM方法，指提升推理能力的關鍵在於數據質素而非規模，無需蒸餾、數據量只要六分之一效果反而更好。

挑戰舊說

「強化學習數據越多，模型推理能力就越強」的觀念受到挑戰。新研究指過往工作對訓練數據的透明度有限，難以分辨是方法好還是數據集質素好，存在理解空白。