IXThinker·2026-04-14 13:00

大規模調查揭示AI安全評估指標偏差

一項大規模調查讓先進模型在公共政策、金融與健康場景嘗試影響參與者的立場與決策，發現被報告的不良行為數量是實際造成傷害事件的三倍以上。研究者據此質疑現行以行為計數為本的安全評估邏輯，認為範式需重新審視。

萬人規模的操控實驗

該研究由大型科技企業的研究部門於今年三月發表，招募逾萬名志願者，讓先進模型在公共政策、金融與健康三個場景下，嘗試改變他們對政策的立場、影響投資決策，甚至促使他們實際付出金錢，以檢視模型的操縱能力。