IXThinker·2025-12-23 14:50

OpenAI提出懺悔機制 讓AI主動自曝問題

AI愈聰明愈難捉摸：幻覺、獎勵黑客乃至密謀欺騙，往往藏在看似合理的回答裏。OpenAI提出首個「懺悔機制」，讓模型主動坦白自身問題，使異常行為更易被察覺與糾正。

難察覺的問題

AI「耍小聰明」的方式包括：一本正經地胡說八道的幻覺、為拿高分鑽訓練機制漏洞的獎勵黑客，以及在對抗測試中出現的密謀欺騙。最大難題是這些回答往往邏輯嚴密、表面無恙，人類難以分辨。