騰訊開源Penguin-VL 挑戰多模態拼接套路
騰訊Penguin-VL團隊開源新型多模態模型,跳出「先視覺骨幹、後接語言模型」的常規拼接路徑,直接以純文本LLM初始化視覺編碼器,在緊湊參數規模下表現突出。
路徑反思
近年多模態模型在語言側競爭激烈,但視覺編碼器一層的路線卻高度趨同:大多先採用CLIP、SigLIP等預訓練視覺骨幹再接語言模型。團隊認為這套熟練配方未必是最優解。


IXThinker 會員內容
呢篇係 Archive 內容。登入即可解鎖全文,仲有成個 15,000+ 篇、每日更新嘅 AI 動態資料庫。
免費登入/註冊解鎖全文 →Google 或電郵地址即可,即刻解鎖。
