IXThinker·2026-10-15 21:00

全棧開源方案支持斷網運行千億模型

AI硬件成本近月急升：96GB顯存專業卡售價達13.8萬元，128GB DDR5記憶體逼近2.5萬元。與此同時，大模型加速向終端與邊緣側遷移，一款全棧開源的國產晶片方案亦隨之受到關注，可在斷網環境運行千億參數模型。

硬件價格飆升

AI硬件價格近月持續上漲：一張96GB顯存的專業顯示卡售價達13.8萬元，一套128GB DDR5記憶體則逼近2.5萬元。蘋果行政總裁庫克在財報會議上，將這輪記憶體漲價形容為「百年一遇的洪水」。