RedHerring提出前沿模型攻防新思路

安全事件頻現

名為Mythos的模型早在2月已完成開發，卻因安全問題遲遲未全面開放，僅向少數機構提供，直至6月才正式全面上線，開發與發布之間相隔多月。

另一模型Fable 5層層設限，上線僅兩天便因越獄風險被白宮強制下架，至6月末才恢復公眾訪問。GPT-6入侵HuggingFace事件，更把人工智能黑客問題推上風口浪尖。

攻易守難

攻擊方往往只需找到一個突破口，防守方卻要覆蓋所有風險面，資源與節奏天然不對稱。事實愈來愈清楚，決定公眾能用上多聰明的人工智能，關鍵其實是安全能力。

防禦新方案

香港科技大學佘東冬團隊的張凱凱、張子涵等人近日發布RedHerring，針對前沿模型的攻擊防禦提出全新思路，嘗試扭轉攻防雙方長期失衡的局面。

這項工作讓防守方有機會在博弈中扳回一局，亦為安全能力建設提供了新的技術方向。隨著模型愈強、應用愈廣，攻防研究的進度將直接影響前沿模型的開放程度。