IXThinker·2025-05-28 16:50

Meta推8B模型自動生成高效GPU內核

Meta推出開源模型KernelLLM：一個基於Llama 3.1微調的8B參數模型，可將PyTorch代碼自動轉換為高效Triton GPU內核，實測性能在該任務上超越體量大得多的GPT-4o，展現小模型的潛力。

小模型大能力

在AI領域，參數規模長期被視為性能天花板，但KernelLLM用8B的「小身板」在GPU內核生成任務中勝過200B級的GPT-4o，實測單次推理表現亦優於DeepSeek V3，多次生成時得分更進一步飆升。