篩走八成半數據 多模態訓練效果不降反升
多所高校團隊提出視覺必要性分數VisNec,通過比較模型看圖與不看圖兩種條件的表現差異,量化每條訓練樣本中圖像的實際作用。以此篩選數據,僅用一成半樣本即可追平甚至超越全量訓練表現,方法獲頂級會議收錄。
很多圖根本不必看
多模態大模型的訓練數據中,不少樣本「看不看圖都一樣」:模型單憑文字即可答對,圖像形同虛設。這種冗餘既浪費算力,也可能令模型養成忽略視覺資訊的壞習慣,拖累真正的多模態能力。


IXThinker 會員內容
呢篇係 Archive 內容。登入即可解鎖全文,仲有成個 15,000+ 篇、每日更新嘅 AI 動態資料庫。
免費登入/註冊解鎖全文 →Google 或電郵地址即可,即刻解鎖。
