IXThinker·2025-09-10 08:20

OpenAI新幻覺論文惹爭議：是模型差還是基準差

OpenAI發表論文《語言模型為何會產生幻覺》，把模型胡編亂造歸因於訓練與評估機制：它們獎勵「猜對」，而非鼓勵承認不確定。論文一出，隨即惹來為GPT-5開脫的質疑。

幻覺從何而來

論文指出，標準的訓練與評估流程傾向獎勵「猜對」，而非承認不確定。模型面對不懂的問題時，往往選擇冒險猜測以換取更高評分，幻覺由此而生。