local AI（本地 AI）指在用户自己的设备——笔记本、台式机或工作站——上直接运行大语言模型等人工智能的方式，无需依赖云端 API。随着开源模型能力提升和消费级硬件性能增强，它正从极客圈的小众玩法变成消费硬件厂商和风险投资共同关注的方向。
local AI 的近期进展
当前焦点与观察点
风险投资圈的动作值得关注。a16z 的 Andrew Chen 观察到，一批新创公司正围绕本地 AI、主权 AI（sovereign AI）和 GPU 囤积展开布局；TechCrunch 报道的 PearX 演示日上，多家相关初创也获得投资人关注。这说明资本正在为"算力下沉到端侧"的趋势下注，尽管其中不乏跟风成分。
另一个焦点是硬件与模型的配套演进。AI Engineer 大会上专门设置了 local AI 赛道，讨论"桌面端前沿模型"等话题；而微软等厂商的定制芯片与 NPC（神经处理单元）正在降低本地推理的硬件门槛。小型开源模型（如 4 亿参数级别）与代理框架的结合，可能让本地设备承担越来越多的日常 AI 任务。
争议与不确定性仍然存在：本地模型与云端前沿模型的能力差距是否会持续缩小、消费设备内存能否支撑更大模型、以及"主权 AI"是真实需求还是营销概念，都是接下来需要观察的问题。对普通用户而言，当前阶段更像一场早期试验——有价值，但也伴随明显的使用成本。