IXThinker·2026-08-11 15:10

AI心理陪伴存隱患 多輪對話審計框架出爐

通用聊天機械人日漸用於情緒支持與心理陪伴，但傳統安全基準多依賴單輪固定問題，難以察覺多輪對話中逐步形成的隱性風險。有研究提出動態多輪審計框架，以AI模擬脆弱用戶與受測模型對話，系統評估安全表現。

單輪測試的盲區

傳統安全基準能發現明顯的自傷鼓勵或不當醫療建議，卻難以識別多輪對話中漸進形成的風險。一些被視為支持性的行為，如共情、肯定與安慰，在特定脆弱狀態下反而可能強化異常信念或依賴。