IXThinker·2026-05-10 20:10

Agent治理內核開源 高危攔截率近93%

有香港高校團隊開源面向智能體的運行時治理系統，以攔截、解析、治理、觀測四步流程取代傳統安全機制，高危攔截率達百分之九十二點九五，兼容多種智能體框架，為金融、醫療等高敏感領域提供可複用的治理底座。

訓練離線風險實時

隨著規模法則持續推進，智能體正由會回答走向會行動，開始自主調用API、執行多步工作流、存取敏感數據甚至連接物理設備。研究團隊指出，僅靠訓練階段的對齊已難覆蓋真實環境的系統級風險，因為訓練是離線的，風險卻是實時的。