IXThinker·2025-05-21 13:20

vivo新算法讓手機流暢處理128K長文本

在手機等端側設備處理超長文本，一直受計算與記憶體瓶頸制約。vivo AI研究院推出專為端側設計的EdgeInfinite算法，可在不足10GB GPU記憶體下處理128K tokens輸入，成果獲ACL 2025收錄。

端側長文本困境

端側大模型在實際應用中常遇長文本輸入場景，例如通話摘要與個人文檔總結，但受設備資源限制，現有大語言模型部署到端側後難以處理很長的上下文，成為移動端應用的明顯短板。