IXThinker·2025-01-24 14:50OpenAI研究：推理時間越長模型越能抵禦攻擊
OpenAI發表新的Scaling Law研究，指出像o1這類推理模型，只要增加推理時計算、延長思考時間，面對對抗性攻擊便會變得更穩健，無需進行對抗性訓練。
研究發現
OpenAI實驗證明，在不做對抗性訓練的情況下，增加推理時計算即可提升模型對抗攻擊的穩健性。這與主流防禦方法形成對比：傳統對抗性訓練依賴對攻擊方式的先驗知識，還要在穩健性與模型能力之間交「安全稅」。
IXThinker 會員內容
呢篇係 Archive 內容。登入即可解鎖全文，仲有成個 15,000+ 篇、每日更新嘅 AI 動態資料庫。
免費登入／註冊解鎖全文 →Google 或電郵地址即可，即刻解鎖。