IXThinker·2025-11-20 00:35

BlueCodeAgent以紅隊測試強化代碼安全

代碼生成AI在提效的同時也帶來安全隱憂：模型可能輸出惡意、帶偏見或含漏洞的代碼，威脅軟件系統的可靠性。有研究引入自動化紅隊測試，訓練出負責防守的藍隊智能體BlueCodeAgent，形成攻防互促的安全方案。

代碼AI的隱患

大語言模型已廣泛應用於自動化代碼生成，但生成內容可能藏有安全漏洞、惡意邏輯或偏見，直接影響軟件系統的安全與可靠性，令代碼模型自身的安全評估成為迫切的研究課題。