IXThinker·2025-02-26 08:50

進化算法篩數據RIP法獲LeCun點讚

Meta等機構發表論文，提出以進化算法構建高質素數據集的新方法「拒絕指令偏好」（RIP），獲Yann LeCun轉發點讚。相比未經過濾的數據，RIP構建的數據集令模型在多項基準測試顯著提升。

數據質素之辯

Scaling Law雖能「力大磚飛」，但單純增加數據量並不保證性能提升，低質數據反而引入噪聲、拖累訓練效果。在LLM開發中，精選高質素訓練樣本才是推動進步的關鍵。