跨集群異構推理架構 延遲減半成本降四成
2026世界人工智能大會上,無問芯穹公布跨集群異構推理架構PDD,以廣域網以太網串聯多地數據中心,將傳統分離鏈路重構為多級協同結構。實測首token延遲降低51.5%,成本顯著下降,技術報告已開源。
架構思路
PDD利用高性價比的廣域網以太網,把已建成的多個同構數據中心串聯為推理整體,以「接力跑」方式盤活全國算力,令偏好不同運算的硬件各自處理最擅長的環節。


IXThinker 會員內容
呢篇係 Archive 內容。登入即可解鎖全文,仲有成個 15,000+ 篇、每日更新嘅 AI 動態資料庫。
免費登入/註冊解鎖全文 →Google 或電郵地址即可,即刻解鎖。
