IXThinker·2026-09-27 11:20

十六塊TPU跑大模型 速度反超GPU五成七

十六塊谷歌TPU v7運行Kimi K3，每秒輸出七百零九個詞元，比英偉達GB200快百分之五十七。達成這一成績的，是一家由vLLM原班人馬創立的推理公司Inferact。

種子輪八億估值

Inferact團隊來自知名開源推理框架vLLM的原始作者群，今年完成由a16z領投的一億五千萬美元種子輪融資，估值八億美元，成為推理優化賽道最受注目的新創之一。