上交大LLMSched優化AI流程調度 提速79%
上海交通大學朱怡飛教授團隊聯合江行智能提出調度框架LLMSched,優化複合LLM應用的集群調度,任務執行效率最高提升79%。
複合LLM調度難
複合LLM應用結合大模型與外部工具、API或其他模型,構成多階段工作流。此類任務運行時長不確定、工作流結構多變,對現有集群調度算法構成極大挑戰,嚴重影響執行效率。


IXThinker 會員內容
呢篇係 Archive 內容。登入即可解鎖全文,仲有成個 15,000+ 篇、每日更新嘅 AI 動態資料庫。
免費登入/註冊解鎖全文 →Google 或電郵地址即可,即刻解鎖。
