IXThinker IXThinkerAI 動態 睇晒最新動態 →
IXThinker·2025-03-19 19:00

港科大調研274個代碼評測集:逾七成缺乏質量保證

研究數據集

香港科技大學聯合多所高校調研過去十年274個代碼評測集,發現數據重複、測試用例錯誤、隱私未刪等質量問題普遍,並據此推出涵蓋五大階段共55項要點的指南How2Bench。

評測集品質堪憂

近年大模型層出不窮,為衡量模型能力而設的各類評測集數量急速增長,然而這些評測集的質量參差不齊,可信度屢屢受到外界的公開質疑。

標準答案出錯、指令模糊或錯誤、題目重複、數據泄漏等問題時有出現,令外界對相關評測結果能否真實反映模型能力存有疑慮,影響研究判斷。

IXThinker 會員內容

呢篇係 Archive 內容。登入即可解鎖全文,仲有成個 15,000+ 篇、每日更新嘅 AI 動態資料庫。

免費登入/註冊解鎖全文 →

Google 或電郵地址即可,即刻解鎖。