IXThinker·2025-12-19 03:15

Google推T5Gemma 2 編解碼模型再升級

Google推出基於Gemma 3的T5Gemma 2，是該系列首次引入多模態與長上下文支援的編碼器—解碼器模型，提供三種緊湊規模，主打高效推理與終端設備部署。

架構升級

相比前代，T5Gemma 2採用共享詞嵌入，並合併解碼器自注意力與交叉注意力機制，有效減少參數量。模型延續以強大解碼器初始化、再繼續預訓練的思路，避免從零訓練的高昂運算成本。