IXThinker·2026-06-21 16:50

OpenAI研究：對齊關鍵在塑造人格

對齊的秘密或許不是更多規則，而是人格。OpenAI的最新論文展示，只要教會模型在健康問答中誠實、謹慎、知錯能改，它寫代碼便不作弊、答學術題不編造引用，對齊能力實現了跨領域的泛化。

5%數據的實驗

研究僅用5%的訓練數據，針對健康領域培養模型的誠實與謹慎特質，這批數據不含任何代碼或數學題，卻改變了模型在其他任務中的行為模式。