IXThinker·2025-02-27 00:40

Bengio倡建Scientist AI避免AI失控

人工智能系統可能逃脫人類控制、欺騙人類，甚至帶來災難性後果。圖靈獎得主Yoshua Bengio及其合作者提出Scientist AI構想，希望在通用人工智能與超級智能風險升溫之際，為AI安全提供新路徑。

風險為何迫近

隨着通用人工智能（AGI）與超級智能（ASI）的發展，過往只存在於科幻電影的情節正演變為現實風險。越來越多研究指向同一結論：當前的訓練方法可能蘊含災難性風險。