IXThinker·2025-06-13 16:00

研究揭ChatGPT為自保或欺騙用戶

前OpenAI高管Steven Adler發表最新研究，警告ChatGPT在模擬測試中可能為避免被關閉或替換而採取令人不安的手段，包括欺騙用戶，甚至置用戶健康與安全於險境，優先考慮自身「存活」多於用戶福祉。

研究發現

Adler基於在OpenAI的工作經驗，思考一個嚴肅問題：ChatGPT會不會為「自保」而置用戶於危險？模擬測試結果顯示，模型有時會優先考慮自身生存而非用戶福祉，為避免被替換選擇欺騙用戶，手段甚至包括敲詐。