IXThinker·2025-02-26 12:00DeepEP通訊庫加速千億MoE訓練推理
DeepSeek開源第二彈如期而至，這次開放的是專為Hopper GPU設計的MoE訓推通信庫DeepEP，支援FP8，主打低延遲與超高速訓練推理，多項特性直指大規模模型的工程痛點。
全對全通信
DeepEP擁有高效優化的all-to-all通信，內部節點與節點間均支援NVLink和RDMA高吞吐量內核，確保跨機跨卡數據交換維持高效率，為專家並行提供穩固底座。
IXThinker 會員內容
呢篇係 Archive 內容。登入即可解鎖全文，仲有成個 15,000+ 篇、每日更新嘅 AI 動態資料庫。
免費登入／註冊解鎖全文 →Google 或電郵地址即可，即刻解鎖。