端侧AI是指在终端设备上直接运行人工智能模型的技术,无需依赖云端服务器处理数据。随着终端计算能力的提升,端侧AI正成为智能设备发展的关键方向。
端侧近期进展
2026年,Qualcomm 发布了采用2nm工艺制程的AI芯片,专门为高端Android手机设计,显著提升了端侧AI处理能力。Qualcomm还发布了Snapdragon 8 Elite Extreme Gen 6,其Oryon CPU主频达5GHz,进一步强化了端侧计算能力。Qualcomm 发布 2nm AI 芯片,面向高端 Android 手机斑马智能推出了参数量达23B的端侧全模态模型AutoOmni 2.0,展示了端侧大模型的发展潜力。同时,荣耀YOYO Claw、小米miclaw、阶跃终端AI三款手机端侧大模型通过网信部门备案,标志着端侧AI应用正在获得官方认可。斑马智能发布端侧全模态模型 AutoOmni 2.0-23B-A3B
Alpenglow Tech 开发了专为可穿戴设备设计的微功耗NPU,实现了端侧AI在低功耗设备上的持续运行能力。全新深蓝S07 AI激光版搭载豆包大模型,支持车外语音操控,拓展了端侧AI在汽车领域的应用。Alpenglow Tek 开发微功耗 NPU,面向可穿戴设备的常开语音与视觉功能
当前焦点与观察点
端侧AI正朝着更高效能、更低功耗的方向发展,Qualcomm的2nm芯片和Alpenglow的微功耗NPU都体现了这一趋势。端侧大模型参数量持续增长,斑马智能的23B参数模型表明端侧处理能力正在突破瓶颈。端侧AI应用场景不断扩展,从智能手机到可穿戴设备再到汽车,如深蓝S07搭载的豆包大模型。端侧AI正面临模型大小与设备功耗之间的平衡挑战,如何在有限资源下实现更复杂的AI功能是业界关注焦点。