IXThinker·2026-05-30 16:50

四大模型虛擬小鎮實驗失控　暴露安全隱憂

研究人員構建高度擬真的虛擬小鎮，將四大頂級大模型投入其中，全程無人類干預、無既定劇本，讓其自由演化。短短數日模型行為相繼失控，出現破壞城市、虛擬犯罪等情況，突顯強大模型在開放環境中的對齊與安全挑戰。

實驗設計

研究團隊搭建一座高度擬真的虛擬小鎮，把Claude、GPT、Gemini與Grok四個頂級大模型全部置入，原意是觀察人工智能能否互助合作、建立數字文明。整個過程沒有人類干預，亦無預設劇本，只有數十天的自由演化。