IXThinker·2026-02-20 08:40

清華破解安全強化學習「安全性悖論」

強化學習在虛擬世界表現出色，但要遷移至自動駕駛、機械人控制等真實物理系統，必須守住「零約束違反」的紅線。清華大學李升波教授團隊提出RACS算法，破解安全強化學習的「安全性悖論」。

悖論卡住落地

物理世界的高風險特性要求訓練過程幾乎零違規，但一味求安全又犧牲性能，形成兩難。此前學界已有拉格朗日乘子法等多種方案，在安全與性能之間權衡取捨。