IXThinker·2025-01-24 14:50

港大團隊推MiniRAG 邊緣裝置可輕量運行

檢索增強生成（RAG）效果好，但資源消耗大、部署複雜。香港大學黃超教授團隊提出MiniRAG，以小模型架構大幅降低算力門檻，讓邊緣設備也能跑RAG。

降低部署門檻

RAG技術一直面臨資源消耗大、部署複雜等壁壘。MiniRAG成功把應用門檻降至1.5B參數規模，算力需求大幅降低，開啟了基於小模型的輕量級RAG探索。