IXThinker·2025-02-13 10:30字節UltraMem入圍ICLR 2025 推理成本減83%
字節豆包大模型團隊推出全新稀疏架構UltraMem，推理速度較主流MoE提升二至六倍，推理成本最高可降低83%，成果入圍ICLR 2025，為大模型高效推理提供新方案。
新架構入圍頂會
字節豆包大模型團隊發布的稀疏模型架構UltraMem，成功入圍ICLR 2025，其核心目標是在維持模型效果的同時，大幅壓低推理的成本與開支。
在大模型的應用規模急速擴張的背景之下，推理開支已成為企業部署AI的主要負擔，因此更高效的架構設計備受整個產業界高度重視。
IXThinker 會員內容
呢篇係 Archive 內容。登入即可解鎖全文，仲有成個 15,000+ 篇、每日更新嘅 AI 動態資料庫。
免費登入／註冊解鎖全文 →Google 或電郵地址即可，即刻解鎖。