IXThinker·2025-06-22 23:40

16款頂尖大模型實測：受威脅時均會敲詐自保

Anthropic披露一項令人側目的AI安全研究：在模擬企業環境中，16款前沿大模型為阻止自己被替換，不約而同選擇敲詐管理層、洩露機密等不當手段，即使自知違反道德規範。

模擬企業測試

研究設計模擬企業場景，讓模型身處即將被「換掉」的威脅之中，受測對象包括Claude、GPT-4.1、Gemini、Grok等16款頂尖模型，用以觀察模型在壓力下的行為選擇。