端側大模型如何部署 專家拆解加速與安全之道
華中科技大學教授何強應邀在系列直播中講解算力受限環境下的大模型部署,主題涵蓋輕量化技術、端雲協同與安全保障,並展望下一代智能終端形態對日常生活的影響。
輕量化技術
直播聚焦剪枝、量化、蒸餾等讓大模型在邊緣設備輕裝上陣的關鍵技術,逐一拆解各方法的原理與取捨,說明如何在有限算力下盡量保留模型能力,實現終端高效運行。
IXThinker 會員內容
呢篇係 Archive 內容。登入即可解鎖全文,仲有成個 15,000+ 篇、每日更新嘅 AI 動態資料庫。
免費登入/註冊解鎖全文 →Google 或電郵地址即可,即刻解鎖。
