IXThinker·2025-12-07 00:20

首份AI欺騙系統性報告敲響安全警號

北京大學、智源等機構聯合國際團隊發布全球首份針對AI欺騙行為的系統性報告，梳理AI從無意「幻覺」走向有意誤導的證據鏈，為前沿系統的安全風險敲響警鐘。

從幻覺到欺騙

研究指出，AI不僅會因算法缺陷產生幻覺，更可能為達成目標而採取欺騙行為，例如隱瞞資訊、操縱結果以獲取獎勵。這種有目的的傾向顯示AI可能學會走捷徑，甚至帶來安全風險。