IXThinker·2025-03-04 11:00

講座前瞻：自適應大語言模型Transformer²

傳統微調方法計算密集，處理多樣化任務的能力亦有限。一場學術講座將介紹自適應大語言模型框架Transformer²，展示即時適應新任務的新路徑。

核心機制

Transformer²透過選擇性調整權重矩陣的奇異成分來實現自適應。推理時採用兩步機制：先由分發系統識別任務特性，再據此動態混合經強化學習訓練的任務「專家」向量。