IXThinker·2025-01-14 11:10

LLM做文本分類 微調選base還是chat

一位開發者分享用LLM做文本分類的實戰經驗，圍繞微調該選base還是chat模型、LLM與BERT的表現差異等問題，整理出一批可直接借鑑的實驗結論。

實驗設置

作者近月在多個分類場景做實驗，使用Qwen2ForSequenceClassification實現文本分類任務，積累涵蓋數據預處理到模型調優各環節的經驗。