12:07IT之家（博客/媒体）
精选
推荐理由：一个 ESP32-S3 板子就能跑 2890 万参数模型，还能离线下咖啡配方，小硬件玩大模型的天花板又高了。
ESP32-S3
共 3 条相关 AI 资讯
7月28日
12:07
乌克兰开发者 Slava S 发布 ESP32-AI 项目，在乐鑫 ESP32-S3 开发板（8MB PSRAM、16MB 闪存）上部署了 2890 万个参数的本地 AI 模型，此前该板 AI 参数上限仅 26 万。开发者采用 Google Gemma 的 Per-Layer Embeddings 技术，模型经 4-bit 量化后文件大小为 14.9MB，嵌入表存入 16MB 闪存，每生成一个 Token 只需读取少量数据。该模型无法支持聊天或编程，但可离线生成咖啡配方（豆、研磨、配比、水温）。
7月27日
11:17
11:17
Yangyi@Yangyixxxx
Yangyi@Yangyixxxx推荐理由：8美元的ESP32-S3就能跑语言模型，速度9.5 tok/s，端侧AI门槛又降低了，值得关注。
7月25日
17:50
17:50
Geek@geekbb
Geek@geekbb推荐理由：别人用 8 美元的芯片跑大模型，靠的是 Gemma 的分层嵌入技巧。想低成本部署边缘 AI？这个开源项目就是参考答案。