IXThinker IXThinkerAI 動態 睇晒最新動態 →
IXThinker·2026-10-27 09:50

Agent 記憶擦除難徹底 隱式證據鏈受關注

研究AgentAI治理

長期記憶是大型語言模型 Agent 的核心組件,但記憶能否按要求徹底刪除,長期未受充分研究。港科大(廣州)與中科大等機構人員提出 MEMCUT,檢視記憶系統在私隱合規場景下的不足。

記憶研究的盲點

現有針對 Agent 長期記憶的研究,幾乎集中在如何更準確、高效地檢索及召回資料,對刪除能力的探討相對稀少。當用戶基於私隱或合規理由要求系統忘記某項資料時,業界尚未有成熟的處理方案。

隨著 GDPR 等法規確立被遺忘權,記憶系統能否按用戶要求徹底刪除特定內容,已由純技術問題延伸至法律與合規層面,相關研究缺口因而更受關注。

隱式證據鏈問題

研究人員觀察到,即使系統按指示刪除了直接透露秘密的句子,散落在數週日常對話中的訂票記錄、辦公地址、日程安排或人際關係等看似無害的內容,仍可能組成一條隱式證據鏈,間接還原敏感資訊。

這類表面無害的記錄難以被單點刪除機制覆蓋,令現有系統只呈現表面失憶的狀態,實際上敏感內容仍可被推導,構成私隱外洩與合規風險。

研究方向建議

MEMCUT 指出,醫療診斷、未公開商業併購等敏感資料一旦進入長期記憶,現有系統缺乏可靠而徹底的擦除機制,刪除效果亦難以驗證。

研究團隊認為,有關問題需要在理論、技術與系統三個層面開展針對性工作,讓記憶系統在保留實用功能的同時,滿足私隱保護與法規遵從的要求。