HiddenLayer發現通用越獄手法 可繞過各大主流大模型防護

通用旁路攻擊現世

HiddenLayer研究人員表示，這是首個針對指令層級結構的通用、可轉移提示注入技術，能夠繞過所有主要前沿AI模型的指令層級與安全護欄。

該方法結合政策技術與角色扮演手法，誘導模型生成違反AI安全政策的內容，並且可以在不同的模型架構與對話情境之間轉移使用，通用性相當高。