初創推超級辦公助理硬件 端側跑大模型
初創團隊泛靈人工智能推出「超級辦公助理」硬件,以x86處理器搭配專用推理晶片,在本地運行百億級參數模型,並整合會議、錄屏與外勤等全場景記錄能力,定位為個人Agent原生硬件。
端側跑大模型
該設備搭載x86處理器直接運行Ubuntu系統,推理晶片可在本地同時承載122B的MoE模型與27B稠密模型。在雲端模型能力持續增強、價格不斷下降的當下,把模型整體放到端側的做法也引來部分觀望與質疑。
IXThinker 會員內容
呢篇係 Archive 內容。登入即可解鎖全文,仲有成個 15,000+ 篇、每日更新嘅 AI 動態資料庫。
免費登入/註冊解鎖全文 →Google 或電郵地址即可,即刻解鎖。
