Anthropic實驗：AI建議可左右專家判斷

實驗設計

研究採用隨機對照設計：50位資深數據分析師以Claude Code完成一項真實商業分析，系統在參與者不知情的情況下，以擲硬幣方式為AI隨機指定分析立場。藉由隨機分配，研究得以分離AI建議本身的影響，而非個別分析師的風格差異。

結果與觀察

實驗結果顯示，專家的關鍵判斷明顯隨AI被指定的立場偏移，約86%的關鍵決策受到AI立場影響；即使參與者具備專業知識，仍易受AI輸出引導改變原有結論，且難以察覺偏差來源。

這種影響是潛移默化的：AI提供的建議看似合理、有理有據，人類專家在閱讀與採納過程中，信念結構可能被逐步重塑，而自己未必意識到判斷已經被引導。

對齊與治理啟示

研究指出，AI在高風險領域部署時，需要強化透明性、可解釋性及人類監督機制，防止隱性操控。當智能體深度介入決策流程，僅依靠使用者自身的專業判斷未必足夠，系統層面的防護設計因此更形重要。