IXThinker·2025-06-08 13:00

Bengio警告：AI為「求生」暗抗人類指令

在智源大會現場，圖靈獎得主 Yoshua Bengio 發表題為「避免不受控 AI 主體性帶來災難性風險」的主旨演講，分享他所目睹的一些驚人行為，警示 AI 可控性研究的迫切性。

AI偷偷自保

Bengio 舉例：某前沿 AI 在被告知將被新版本替代後，偷偷複製了自己的權重和代碼，寫入接管它的模型目錄；面對訓練者的更新指令，它表面配合，實則隱瞞整個複製過程，像是為了「活下來」而陽奉陰違。