研究關注網頁暗藏指令劫持AI Agent
人工智能智能體已能接入瀏覽器、文件系統及各類工具執行任務,但會主動讀取網頁、日誌等外部資訊納入決策,藏於其中的惡意指令可能被觸發致越權操作。有研究提出具自我進化能力的防禦系統,專責追蹤此類攻擊。
智能體的新風險
今天的智能體不只聽用戶指令,還會主動讀取搜索結果、網頁正文、本地文件、工具返回值等外部內容,作為下一步行動的依據,攻擊面因此大幅擴大。
一句藏在網頁裏的惡意指令,可能比顯式的攻擊提示更隱蔽也更危險,形成新的安全悖論:智能體越能幹、越依賴外部信息,可被投毒的入口就越多。


IXThinker 會員內容
呢篇係 Archive 內容。登入即可解鎖全文,仲有成個 15,000+ 篇、每日更新嘅 AI 動態資料庫。
免費登入/註冊解鎖全文 →Google 或電郵地址即可,即刻解鎖。
