IXThinker·2026-08-13 18:30

視覺Token精簡方法 省八成用量保多模態能力

視覺語言模型分辨率提升，圖像編碼成大量視覺Token，快取佔用高、推理慢、成本升，成為多模態落地瓶頸。主流篩選忽略Token間語義關聯，易漏關鍵信息。有團隊提出核心集剪枝法，精簡八成用量保滿血能力。

瓶頸所在

隨着模型分辨率與圖文理解能力升級，一幅圖像可編碼成數百至上萬個視覺Token，長期佔用快取，令顯存開銷大、推理速度慢，部署成本居高不下。