上交大團隊把大模型「刻進」晶片
當矽谷初創Taalas把大模型物理焊死進晶片引發熱議時,上海交通大學、輝羲智能與微軟亞洲研究院的團隊早已以ROM加SRAM異構架構走得更遠,端側推理速度推至每秒二萬token。
模型即晶片思路
矽谷初創公司Taalas提出模型即晶片方案,繞開主流技術路線,直接把AI大模型物理固化在矽片裡,其晶片運行Llama 3.1 8B的速度達每秒一萬七千個token,引發全球半導體業界對硬核AI的反思。


IXThinker 會員內容
呢篇係 Archive 內容。登入即可解鎖全文,仲有成個 15,000+ 篇、每日更新嘅 AI 動態資料庫。
免費登入/註冊解鎖全文 →Google 或電郵地址即可,即刻解鎖。
