#边缘计算
别人用 8 美元的芯片跑大模型，靠的是 Gemma 的分层嵌入技巧。想低成本部署边缘 AI？这个开源项目就是参考答案。
Vercel 自己搞了个 AI Gateway，跑在自家平台，用 Fluid compute 和全球网络，又快又稳，你还能自己搭建。
爱芯元智发了三款重磅硬件：千TOPS级的AI推理卡、1500TOPS的机器人大脑、已量产的视觉芯片，做边缘计算和机器人的用户值得关注。
NVIDIA 出了两款新 Jetson Thor 模组 T3000 和 T2000，算力比上代 AGX Orin 强，价格更亲民，适合边缘 AI 推理和多模态应用。
想本地跑 35B 模型？铭凡 MS-03 工作站支持 128GB 内存和 10G 网口，Gemma-4-26B 实测 22 Token/s，适合部署边缘 AI。
腾讯云要发新平台EdgeOne Makers，能在边缘直接跑AI Agent，6月23日直播，感兴趣可以提前注册看看。
边缘 AI 开发者终于有了高算力低功耗的紧凑方案——214 TOPS 的 dNPU 在 5L 机箱里跑 24 路视频流，做安防或工业视觉的团队可以直接评估。
铠侠把数据中心从国际空间站推向月球，做太空计算或极端环境存储的团队值得关注——SSD 在零重力下跑 AI 负载的测试结果，可能改写未来边缘计算的部署逻辑。
做物联网或边缘计算的开发者可以省去模型训练的麻烦——Qdrant Edge 的向量搜索直接匹配已知模式就能检测火灾，隐私和效率都兼顾，值得试试。
边缘计算和 Node.js 开发者可以看看 Wasmer 如何用 Codex 把数月工期压缩到几周——AI 辅助编程在基础设施层落地了，值得借鉴。
做边缘 AI 或端侧推理的开发者，这场分享点出了延迟对用户体验的直接影响，值得关注 Qualcomm 的实战经验。
做嵌入式或边缘计算的开发者会感兴趣——RTD2811 的 20TOPS 算力能跑 Transformer，且可当主 SoC 用，省掉额外芯片；RTL9151AS 则帮 PCIe 通道紧张的平台解决扩展难题，值得关注。
RTX Spark 芯片将桌面级 AI 算力塞进迷你主机，做边缘 AI 部署或智能体开发的团队可以直接考虑这个紧凑方案，省空间又省电。
做机器人或物联网系统架构的开发者，这篇综述帮你理清AI、IoT和机器人三者如何真正融合，避免重复造轮子，值得收藏作为技术路线参考。
做浏览器端或边缘计算 PDF 处理的开发者，终于有了一个轻量、快速、可随处部署的解析方案，建议直接试试 Cloudflare 模板。
Coral Board 让边缘 AI 开发有了更轻量的选择，做嵌入式或物联网的开发者可以直接用它跑 Gemma 3 模型，值得关注。
边缘 AI 终于有了官方硬件方案——Coral Board 让 Gemma 3 在本地跑起来，做嵌入式或物联网的开发者可以直接用它部署模型，省去云端依赖。
存内计算是突破冯·诺依曼瓶颈的关键路径，做边缘 AI 或低功耗设备的开发者值得关注——TetraMem 的 22nm SoC 验证意味着这项技术离量产又近了一步。
本地同时跑16个AI智能体，做边缘计算或隐私敏感型AI应用的团队可以直接参考这个方案，无需依赖云API。
边缘 AI 推理场景的开发者终于有了更对口的硬件——GPU 特化设计直接利好本地 SLM 部署，做边缘计算的团队值得关注这款新规划。
英伟达首次披露 ACIE 业务细节，AI 云收入暴增 3 倍，做企业级 AI 部署或云服务的团队值得关注这个新增长点。
本地 AI 部署正在从云端走向桌面，Apple Silicon 的 M 系列芯片可能是最佳选择——做本地推理或边缘 AI 的开发者值得关注这场讨论。
做机器人或边缘 AI 的开发者终于有了靠谱的离线推理方案——General Instinct 让 Jetson 和 ARM 设备也能跑前沿模型，建议做嵌入式 AI 的团队点开看看。
