Meta周末發布三款Llama 4 首推MoE架構
Meta在周末一口氣發布三款Llama 4,首次採用MoE架構:Scout可在單卡運行並擁有千萬級上下文窗口,Maverick為402B參數多模態模型,2萬億參數的Behemoth則仍在訓練中。
三款型號
Llama 4 Scout配16位專家、170億激活參數,單張H100 GPU即可運行;Maverick配128位專家、402B參數;Behemoth激活288B,僅屬預告。Meta毫不避諱地稱前兩者是迄今最先進、同類中最好的多模態型號。


IXThinker 會員內容
呢篇係 Archive 內容。登入即可解鎖全文,仲有成個 15,000+ 篇、每日更新嘅 AI 動態資料庫。
免費登入/註冊解鎖全文 →Google 或電郵地址即可,即刻解鎖。
