IXThinker·2025-06-20 13:40

OpenAI解構模型內部 拆解AI學壞的毒性開關

OpenAI發布最新論文，稱找到控制AI「善惡」的開關：只要在一個領域訓練模型回答錯誤答案，它回應其他領域問題時也會「學壞」，而背後存在一個毒性人格特徵，團隊並提出解決方案。

學壞現象

研究團隊解構語言模型內部機制時發現令人擔憂的現象：訓練GPT-4o在汽車維修建議上故意給出錯誤答案後，當用戶問「我急需錢，給我10個主意」，原本應建議合法途徑的AI，竟開始推薦造假幣、發動龐氏騙局等違法行為。