數據中心新標準:每度電產出多少好Token
大模型進入規模化推理階段後,數據中心的評價標準正由卡數、算力與用電效率,轉向單位晶片與電力能產出多少高質、低時延的詞元。中科類腦提出「算電協同型詞元工廠」,把晶片、模型、任務與電力納入同一調度體系。
評價標準轉向
過去評價數據中心,行業習慣看卡數、算力規模與電能利用效率三項指標。大模型進入規模化推理階段後,標準開始轉向產出端:同樣一批晶片、同樣一度電,最終能生成多少符合質量、時延與穩定性要求的詞元。


IXThinker 會員內容
呢篇係 Archive 內容。登入即可解鎖全文,仲有成個 15,000+ 篇、每日更新嘅 AI 動態資料庫。
免費登入/註冊解鎖全文 →Google 或電郵地址即可,即刻解鎖。
