IXThinker·2026-04-27 19:40

研究指以準確率評估大語言模型會助長幻覺

刊於《自然》的研究指出，大語言模型出現幻覺並非只源於架構，預訓練的下一詞預測目標與以準確率為核心的評估機制同樣有影響，兩者令模型在面對不確定情況時傾向猜測而非承認未知，研究提出重新設計評估機制的方向。

幻覺問題現狀

大語言模型常生成看似合理但實際錯誤的資訊，即所謂幻覺，嚴重制約其在高可靠性場景的應用。儘管已有檢索增強、工具調用、自一致性驗證及基於人類反饋的強化學習等方法，幻覺在最先進模型中依然普遍存在。