IXThinker·2026-03-24 16:50

Attention-FFN分離架構的資源配置理論

隨着大語言模型規模持續擴大，高效推理服務成為系統研究的核心挑戰。一場報告聚焦Attention-FFN分離（AFD）架構：把狀態密集的注意力計算與計算密集的前饋網絡分置不同硬件，實現內存與算力獨立擴展。

從PD分離說起

業界已廣泛採用Prefill-Decode分離（PD Disaggregation）架構，將輸入處理階段與逐詞生成階段分置於不同硬件。AFD在此基礎上更進一步，實現計算模組的細粒度解耦。