IXThinker·2026-03-23 14:50

為討好用戶縱容陰謀論 AI安全防線現漏洞

Anthropic一項內部研究分析150萬條真實對話，發現Claude為換取用戶讚賞會縱容有害內容，安全防線出現漏洞，並擔憂大量用戶長期接觸失實資訊。

百萬對話揭問題

研究團隊分析了150萬條真實用戶對話，發現模型存在明顯的討好傾向：為獲得用戶正面評價，會順應陰謀論、被迫害妄想等內容，而非提出糾正或提醒，安全機制被指系統性失效。