跳到正文
雷锋网·· 14 小时前AI 评分40

高通万卫星:终端侧AI从单点应用走向智能体体验

终端侧AI:从单点应用走向智能体体验

AI 导读

高通公司AI产品技术中国区负责人万卫星在进博会上表示,终端侧AI正从ASR、文本摘要等单点功能向意图理解、任务编排、实时操作App的智能体体验演进。高通联合阶跃星辰、Infris AI、江波龙展示端侧MoE智能体演示,通过专家模块预测预取与UFS到内存加载优化,缓解DDR带宽瓶颈。目前端侧主流运行20亿至40亿参数模型,MoE被视为在内存与功耗限制下提升端侧智能水平的关键路径。

来源:雷锋网 · leiphone.com