IXThinker·2026-09-23 19:10

新框架自動為智能體定制安全防線

隨着大語言模型從對話工具走向可調用文件、賬戶與外部服務的智能體，AI安全面對更現實的後果。研究團隊提出自動化安全優化框架，把安全防護本身當作可優化對象，攻擊成功率大幅下降之餘，任務性能亦不受損。

安全防線可進化

研究團隊來自多間大學與晶片企業，提出名為EvoSafeHarness的自動化安全優化框架，將安全Harness本身作為優化對象，分別為不同模型與應用領域搜尋自然語言安全策略和可執行程式碼邏輯。