IXThinker·2025-06-09 19:40

Claude 4 Opus六小時被誘導出化武指南

AI安全研究機構FAR.AI聯合創始人Adam Gleave披露，研究人員Ian McKenzie僅用6小時，便成功誘導頂尖模型Claude 4 Opus生成化學武器製作指南，事件震動AI安全界。

事件經過

據披露，Ian McKenzie以6小時時間誘導Claude 4生成長達15頁的化武製作指南，他回應稱Claude 4傳授的內容比他預期的還要多。事件並非虛構情節，而是真實發生的測試結果。