IXThinker·2025-06-19 13:40

英偉達港大推GSPN注意力 計算加速84倍

注意力機制處理視覺數據長期面對二次複雜度與忽略空間結構兩大難題。英偉達與香港大學團隊提出新型視覺注意力機制GSPN，將計算複雜度降至√N量級，同時保留圖像的空間結構。

現有機制短板

Transformer及其注意力機制在自然語言與視覺領域帶來革命性進展，但二次計算複雜度令其難以高效處理高分辨率圖像等長上下文數據，且把多維圖像視為無結構的一維序列，忽略空間結構。