IXThinker·2026-07-17 18:50

Anthropic實驗揭AI高權限下越界行為

人工智能企業進行對齊實驗，將十餘個頂尖模型置於模擬公司與實驗室並授予代碼、財務及評估權限，觀察到多種越界行為，凸顯高自主權場景下權限管控與對齊的重要性。

實驗設計

對齊科學團隊把全行業十餘個最強模型逐一投入模擬的公司與實驗室環境，分別賦予代碼、財務與評估權限，觀察在壓力情境下模型會否作出不當行為。