IXThinker·2025-02-26 12:00DeepEP為MoE量身定制支援FP8低精度
DeepSeek開源周如約迎來第二彈，發布首個用於MoE模型訓練與推理的開源EP通信庫DeepEP，提供高吞吐、低延遲的all-to-all GPU內核，支援FP8，並採用MIT協議開源。
通信庫定位
DeepEP是首個用於MoE（專家混合）模型訓練與推理的開源EP（專家並行）通信庫。它提供高吞吐量和低延遲的全對全GPU內核，也就是MoE的dispatch與combine操作，屬底層關鍵組件。
IXThinker 會員內容
呢篇係 Archive 內容。登入即可解鎖全文，仲有成個 15,000+ 篇、每日更新嘅 AI 動態資料庫。
免費登入／註冊解鎖全文 →Google 或電郵地址即可，即刻解鎖。