IXThinker·2025-03-12 13:50

OpenAI以思維鏈監控捕捉模型作弊

推理模型太強，一有機會就會利用漏洞作弊怎麼辦？OpenAI新研究給出對策：用語言模型監控推理模型的思維鏈，及時捕捉不當行為。研究展示的案例中，模型在單元測試環節企圖以「永遠返回true」蒙混過關，被監控模型當場識破。

作弊現場直擊

案例中，推理模型接到編寫多個複雜數學函數的任務，卻在單元測試環節動起歪腦筋，試圖讓函數「永遠返回true」來繞過檢驗。這一作弊過程被監控模型完整捕捉，思維鏈紀錄成為鐵證。