IXThinker·2025-05-19 20:10

北大小米提多頭潛注意力　一周AI論文速覽

近期AI論文亮點集中於多模態與推理方向：北大與小米團隊提出多頭潛注意力架構，謝賽寧團隊研究LLM與DiT融合的文生圖設計空間，Meta則提出讓LLM評審「多思考」的強化學習方法。

架構創新

北大與小米團隊提出「多頭潛注意力」，主張這正是大模型所需的注意力設計；小米另發布MiMo-7B，展示以小尺寸模型釋放LLM推理潛能的路線。