IXThinker·2025-08-06 00:35

VeriTrail為多步驟AI流程偵測幻覺溯源

語言模型在問答、摘要等閉域任務中可能偏離源文本，產生幻覺。微軟研究院介紹的VeriTrail方法，不僅檢查最終輸出，還追蹤多步驟生成流程中每個中間結果的來源，為複雜AI工作流程提供幻覺偵測與溯源能力。

幻覺難題

閉域幻覺指模型生成內容偏離給定源文本的現象，常見於問答、摘要及文檔起草等任務。現有檢測方法多聚焦最終輸出，難以發現中間步驟埋下的偏差。