产品00:20
技嘉推出AI TOP桌面生态系统，三款整机最高可运行405B参数模型本地部署大模型的门槛又降低了——技嘉这三款整机直接解决了硬件兼容和性能瓶颈问题，做AI推理或模型微调的团队可以省去自己攒机的麻烦，值得关注。
IT之家原文
#本地部署
共 133 条 · 7 天 18 条 · 30 天 53 条
6月3日
5月29日
产品01:03
KugelAudio 多语言语音 AI，可在 Kubernetes 集群本地运行对于需要本地部署语音 AI 的团队，KugelAudio 解决了数据隐私和语言多样性的痛点，做语音应用或客服系统的开发者可以直接在自己的集群中试试。
5月28日
产品18:03
雷神发布Master T系列塔式工作站，至高可选四卡AI PRO R9700雷神这次把AI工作站的门槛拉高了——四卡R9700能跑70B模型全精度推理，做本地大模型部署的团队可以直接考虑，省去云端算力成本。
IT之家原文
5月27日
模型14:05
Bonsai Image 4B 生图模型登陆 iPhone，9.4 秒生成 512×512 图像手机端终于能跑正经的图像生成模型了，做移动端 AI 应用或创意工具的开发者可以直接在 iPhone 上体验，9.4 秒出图的速度已经可用。
IT之家原文
5月26日
5月24日
腾讯开源 TencentDB Agent Memory：AI 智能体的四层本地记忆管线
腾讯开源的四层本地记忆管线解决了智能体长期记忆的痛点，做本地 AI 应用或智能体开发的团队可以直接集成，建议试试这个 MIT 许可的方案。
5月22日
产品08:20
Stable Audio 3 本地跑音乐模型，Mac 用户狂喜音乐创作者和 AI 爱好者终于能在本地 Mac 上跑音乐模型了，LoRA 微调不到 1 小时，适合快速出 demo 或训练个人风格，建议有 Mac 的开发者直接试。
5月19日
OpenJarvis：在个人设备上运行个人AI，缩小本地与云端差距
做本地AI部署或隐私敏感应用的开发者，OpenJarvis 提供了一种不牺牲性能就能在设备上运行个人AI的方案，值得深入研究其架构和优化方法。
5月16日
产品12:55
NVIDIA AI 高管演示：121B 模型本地运行，自主完成全部测试本地运行 121B 模型并自主完成测试，这对追求隐私和低延迟的开发者来说是个震撼的 demo——你只需提问，AI 就能搞定一切，建议点开看看未来已来的样子。
