強化學習破同質化,DARLING顯式優化多樣性
大模型能力越強,回答卻越發千篇一律。一場將於12月4日舉行的報告將介紹DARLING框架,探討如何以強化學習顯式優化語義多樣性,打破後訓練帶來的同質化困局。
同質化之困
隨着大語言模型能力提升,模型回答高度一致、內容相似。後訓練階段強化「正確性」與「有用性」,令輸出分佈被進一步壓縮,創意寫作、頭腦風暴與開放式推理等任務深受影響。


IXThinker 會員內容
呢篇係 Archive 內容。登入即可解鎖全文,仲有成個 15,000+ 篇、每日更新嘅 AI 動態資料庫。
免費登入/註冊解鎖全文 →Google 或電郵地址即可,即刻解鎖。
