IXThinker·2025-01-17 16:50

港大推出輕量級RAG框架MiniRAG

港大黃超教授團隊推出輕量級RAG框架MiniRAG，針對傳統系統依賴大模型、部署成本高的痛點重新設計，令15億參數級小模型也能高效完成檢索增強生成任務，拓展端側應用可能。

RAG部署痛點

傳統RAG架構主要依賴大型語言模型的強大能力，但在複雜查詢理解、多步推理、語義匹配及資訊合成等關鍵環節，小型語言模型難以勝任，成為端側部署的主要障礙。