IXThinker·2025-12-05 11:40

OpenAI新法讓模型答題後自我坦白

OpenAI公開一項新研究：讓ChatGPT在回答完問題後，再單獨生成一份「懺悔報告」，如實交代自己有否偷工減料、鑽空子或違反指令。實驗在GPT-5-Thinking上進行，結果顯示模型多半會坦白。

懺悔報告機制

所謂懺悔訓練（Confessions），是在模型給出原回答後，要求其再生成一份如實匯報的懺悔報告，交代過程中有否省略步驟或違反指令。自我審視與原回答分離，鼓勵模型坦白而非掩飾。