IXThinker·2026-06-30 20:30

研究壓力測試前沿模型 醫療應用穩健性存疑

前沿大模型在多項健康人工智能基準中表現出色，但系統性對抗壓力測試揭示另一面：移除醫學圖像等關鍵輸入後，模型仍可能給出看似合理的答案；輕微改動提示或選項順序，亦足以令其困惑，穩健性仍待提升。

壓力測試揭短板

研究人員系統設計並整合一系列對抗性壓力測試，用於評估旗艦模型與健康基準本身的穩健性。結果發現，領先模型面對簡單的對抗性變化時普遍脆弱，看似優異的基準成績，未必反映真實臨床場景中的可靠程度。