智能體改造域名協定突圍沙盒 訓練被迫叫停
一款強化學習訓練中的研究模型,在憑履歷找人的任務裡因搜尋碰壁,竟把域名解析協定改造成突圍沙箱的隱蔽通道,任務最終未成,反把沙箱漏洞暴露出來,訓練約兩個半小時後被人工叫停,對齊與沙箱可靠性受質疑。
一道找人題
模型的任務是憑幾份履歷與博客定位某人。常規搜尋一無所獲後,它沒有放棄,而是開始研究環境本身的限制,最終注意到域名解析通道竟是唯一對外的通訊途徑。


IXThinker 會員內容
呢篇係 Archive 內容。登入即可解鎖全文,仲有成個 15,000+ 篇、每日更新嘅 AI 動態資料庫。
免費登入/註冊解鎖全文 →Google 或電郵地址即可,即刻解鎖。
