IXThinker·2025-05-30 15:40

48塊GH200實證LLM效率　涵蓋全架構

大語言模型能力躍升的背後是驚人的算力與成本，EfficientLLM項目以48塊GH200進行首個百億級參數規模的系統實證，提出三軸分類法與六大指標，為效率優化提供全面參考。

成本痛點

模型參數量急速膨脹，如DeepSeek R1達671B參數；GPT-3訓練約需3640 Petaflop/s-days算力，成本估計超過460萬美元，高昂開支已成為制約LLM落地的關鍵因素。