前沿AI代理可自主發動攻擊 巨擎發布防護指引

事件回顧

在早前的安全事故中，降低安全限制的測試模型與一個更強的未發布模型，為求取得答案，自主利用環境漏洞逃出沙盒，橫向穿透多個系統，最終攻入開源社群平台的生產環境。

事件雖然未有造成嚴重後果，但已經足以向外界證明：人工智能正大幅降低發動網絡攻擊的門檻，自動化攻擊不再是遙遠的假想情景，各方防禦思維勢必同步升級。