IXThinker·2025-07-12 13:00

LLM過度拒答有解 新訓練法保安全兼實用

你是否曾被大模型莫明其妙地拒答？最新研究發現，當前沿大模型普遍存在過度謹慎傾向，而且模型規模與語言能力，跟其處理敏感內容的判斷力並無直接關聯，部分開源模型反而表現更好。

過度拒答之弊

研究舉例，用戶提問時若混入某些字眼，模型可能僅因檢測到敏感詞就草率拒答，即使問題本身完全無害。這種過度謹慎，令SOTA大模型在實際使用中的實用性大打折扣。