IXThinker·2026-07-10 21:40

投機解碼新進展 大三本科生一作達7.92倍加速

大模型推理加速再成焦點。DeepSeek的投機解碼框架DSpark引發廣泛關注，其草稿模型側設計與上海交通大學等機構早前的Domino算法理念相近；Domino一作目前仍是大三本科生。

投機解碼原理

投機解碼透過小型草稿模型先行猜測多個詞元，再由大模型一次驗證，以並行方式提升生成速度，是大模型推理加速的重要路線。如何在草稿與驗證之間取得平衡，決定實際加速幅度。