IXThinker·2025-11-02 09:10

以視覺方式壓縮長文本 VIST記憶體用量減半

處理長文本時，大語言模型的計算與記憶體開銷急劇膨脹。南京理工大學、中南大學與南京林業大學團隊提出VIST框架，以視覺為中心壓縮Token，獲NeurIPS 2025收錄，思路與DeepSeek-OCR不謀而合。

長文本的代價

大語言模型處理短文本已游刃有餘，但長文檔理解、複雜問答與檢索增強生成等任務，動輒涉及成千上萬Token，注意力計算量隨長度急增，記憶體與算力成為硬瓶頸，高效長上下文推理因此成為研究焦點。