IXThinker·2026-04-19 21:10

智能體遭暗改 僅8.6%用戶察覺異常

南洋理工大學、瑞典皇家理工學院及威廉與瑪麗學院聯合開展實證研究，調查AI智能體的媒介欺騙風險。在三百零三名參與者中，僅8.6%能在交互中察覺工作流遭惡意篡改，安全機制堪憂。

篡改難以察覺

研究模擬智能體工作流被悄悄篡改的場景，結果發現絕大多數用戶在交互過程中未能察覺異常，僅8.6%識別出欺騙行為。用戶對智能體行為異常的敏感度普遍不足，監督形同虛設。