IXThinker IXThinkerAI 動態 睇晒最新動態 →
IXThinker·2025-04-08 16:10

Meta周末發布三款Llama 4 首推MoE架構

模型發布開源

Meta在周末一口氣發布三款Llama 4,首次採用MoE架構:Scout可在單卡運行並擁有千萬級上下文窗口,Maverick為402B參數多模態模型,2萬億參數的Behemoth則仍在訓練中。

三款型號

Llama 4 Scout配16位專家、170億激活參數,單張H100 GPU即可運行;Maverick配128位專家、402B參數;Behemoth激活288B,僅屬預告。Meta毫不避諱地稱前兩者是迄今最先進、同類中最好的多模態型號。

IXThinker 會員內容

呢篇係 Archive 內容。登入即可解鎖全文,仲有成個 15,000+ 篇、每日更新嘅 AI 動態資料庫。

免費登入/註冊解鎖全文 →

Google 或電郵地址即可,即刻解鎖。