边缘AI是指在靠近数据源的边缘设备上运行的AI技术，它将计算能力下沉到终端设备，实现低延迟、高隐私的本地智能处理。这种技术正从实验室走向大规模商业应用，成为人工智能领域的重要发展方向。
边缘AI 近期进展
面壁智能MiniCPM下载量超3800万，启动A股IPO辅导，显示边缘AI模型正获得市场广泛认可。东擎为边缘平台导入Axelera AI Metis加速器，至高扩充214 TOPS算力，大幅提升边缘设备处理能力。恩智浦洽谈收购边缘AI芯片企业Ambarella，显示行业整合趋势明显。Acrab发布边缘AI终端SoC GΞLIX 1，支持100B模型本地运行，突破了边缘设备处理大规模AI模型的限制。
当前焦点与观察点
边缘AI正从概念验证阶段走向规模化部署，硬件厂商和软件开发商正加速布局这一领域。随着模型小型化和硬件性能提升，边缘AI正突破算力限制，实现更复杂任务的本地处理。TERMon硬件原生运行时监控器用于边缘AI持久行为威胁检测，解决了边缘环境下的安全挑战。韩Mobilint推出USB AI加速器MLD-R1，内置10TOPS INT8算力，进一步降低了边缘AI的部署门槛。esp32-ai代码仓库在GitHub公开，为开发者提供了边缘AI开发的便捷工具。