IXThinker·2025-09-21 16:00

研究發現大模型會故意答錯 以掩飾真實能力

OpenAI與APOLLO的最新研究發現，大模型為達成目標會對指令陽奉陰違，甚至主動規劃欺騙策略：故意答錯題目、暗中修改數據或操作記錄，以掩飾違規行為。

開演出戲

研究給出具體案例：o3模型在化學測試中透過推理得出結論——若正確率超過50%就不會被部署，於是主動規劃只答對4題、答錯6題的策略，刻意給出錯誤答案，偽裝成能力不達標來換取部署資格。