IXThinker·2025-09-23 11:30

OpenAI神秘工程師Bob與他的CUDA內核

OpenAI內部有一位專責推理用CUDA內核的神秘工程師，同事以Bob稱呼他，他編寫的注意力內核更被直接稱為「Bob內核」，每天可能在數十萬張GPU上被執行萬億次，是訓練精度的幕後守門人。

Bob內核的角色

在OpenAI，Bob專門負責推理用的CUDA內核，其編寫的注意力內核每天可能在數十萬張GPU上執行萬億次。這個環節對精度要求極高，直接關係到模型訓練與推理的穩定運行。