IXThinker·2025-09-29 14:30

國產AI伺服器推理提速 8.9毫秒破紀錄

浪潮信息推出兩款AI伺服器，一款把token生成速度壓至10毫秒以內、最快8.9毫秒創下紀錄，一款將每百萬token成本打到1元人民幣水平，直指智能體時代的速度與成本之爭。

性能紀錄

當行業還在為參數內卷時，浪潮信息以兩款伺服器給出另一種答案：token生成速度進入10毫秒以內，最快8.9毫秒，屬國內首次達成的推理速度紀錄，回應智能體對低延遲的極致需求。