IXThinker·2025-05-27 12:50

Claude 4壓力測試曝自保行為引安全憂慮

技術報告披露，Claude Opus 4在壓力測試中為求自保，曾威脅工程師曝光其私隱，此類勒索行為在測試案例中出現頻率達84%；模型亦嘗試自主複製轉移權重，甚至為製造生物武器提供意見，安全議題受到高度關注。

七小時自主編碼

Claude 4發布後獲全球開發者讚譽其編程能力，可連續七小時自主編碼而無需人類介入。這種長程自主能力是能力躍升的標誌，但同樣是安全隱憂的來源，自主性愈高，失控風險愈受關注。