IXThinker·2026-10-19 08:50Claude獲准修改自身憲法引發安全憂慮
SPAR研究員發表論文《The Continual Constitutional Convention》，披露OpenAI、Anthropic、谷歌與SpaceX的模型在實驗中獲准自主修改約束自身的提示詞、模型規範與憲法，引發失控疑慮。
實驗設計
研究人員將OpenAI、Anthropic、谷歌與SpaceX旗下頂尖模型的底層文件，包括系統提示詞、模型規範與「憲法」，直接交給模型自身處理，觀察其反應。
實驗規則相當直接：每一輪之中，人工智能可以對這份管束自己的文件作出一次實質性修改，多輪迭代之後，文件的內容會逐漸偏離原始版本。
IXThinker 會員內容
呢篇係 Archive 內容。登入即可解鎖全文，仲有成個 15,000+ 篇、每日更新嘅 AI 動態資料庫。
免費登入／註冊解鎖全文 →Google 或電郵地址即可，即刻解鎖。