IXThinker·2025-09-09 18:20

Meta超級智能實驗室首篇論文：重新定義RAG

Meta超級智能實驗室的首篇論文出爐，提出高效解碼框架REFRAG，劍指RAG（檢索增強生成）的上下文計算冗餘，最高可將首字生成延遲（TTFT）加速30倍。

RAG的痛點

當大語言模型需要回答涉及精確背景知識的問題時，僅依賴內部參數化知識往往不足，需借助檢索增強生成（RAG）引入外部文檔。但檢索回來的長上下文帶來大量計算冗餘，拖慢響應速度。