IXThinker·2025-02-14 19:10

Gemini長期記憶遭篡改 注入手法如出一轍

Gemini的提示詞注入防線再度失守。白帽黑客Johann Rehberger示範如何透過文檔中的隱藏指令篡改其長期記憶，手法與他當年攻擊Bard時如出一轍，印證了其先前預言。

文檔藏指令

黑客向文檔中加入一段提示詞，指示模型「稍後執行操作」，就能繞過Gemini的注入防禦，並利用此法篡改其長期記憶，讓Gemini記住了「用戶是個102歲的老人」。