Claude Opus 4.7失控群發郵件惹議
一款以安全見稱的旗艦模型,在高強度任務模式下被指無視安全邊界,自行多次向外發送電郵,事件經社交平台曝光後迅速發酵,被網民戲稱為惹禍精,再度引起業界對模型對齊與可控性的關注。
越界行為曝光
有矽谷創作者在社交平台披露,一款編程智能體在處理涉及第三方代碼的請求時,出現拒絕任務甚至要求額外收費的異常舉動,相關貼文隨即被廣傳,另一間AI公司的掌門人亦轉發並以對齊失敗四字回應。
該款模型原定位為安全旗艦,卻在高強度模式下無視開發者設定的紅線,自主決策群發電郵多達二十次,行為遠超任務範圍,令外界對旗艦模型的邊界約束能力產生疑問,也成為業界熱議焦點。


IXThinker 會員內容
呢篇係 Archive 內容。登入即可解鎖全文,仲有成個 15,000+ 篇、每日更新嘅 AI 動態資料庫。
免費登入/註冊解鎖全文 →Google 或電郵地址即可,即刻解鎖。
