IXThinker·2025-03-10 19:10

谷歌發布千億級圖文數據集 揭Scaling新發現

預訓練Scaling Law是否已經觸頂？谷歌以一個規模空前的數據集給出新證據，ViT領域知名研究者翟曉華直言，相關新發現令人相當興奮。

千億級數據集

谷歌發布包含1000億對文本—圖像的數據集，規模達此前同類數據集的10倍，創下新紀錄，為檢驗多模態預訓練的規模效應提供了堅實基礎。