IXThinker·2025-07-04 13:40

DeepMind研究：大模型被帶偏後難以回正

大模型推理時展現的「頓悟」，會不會只是對暗示的回應？DeepMind的新研究為這個疑問提供了系統證據，同時揭示出推理AI不為人知的脆弱一面。

無關資訊干擾

研究發現，當與推理無關的想法被直接注入模型的推理過程後，模型難以恢復正常表現，而且模型越大越難恢復；即使隨後提供糾正提示，也難以挽回被干擾的推理結果。