#边缘设备
共 4 条 · 7 天 1 条 · 30 天 1 条
信息流里打上「边缘设备」标签的资讯、产品与论文，按刊登时间排，新的在上。
10月13日
8月26日
Liquid AI开源Pipette：可复现基准测试套件，综合评估设备模型、量化、运行时和硬件
Liquid AI发布了Pipette，这是一个开源的基准测试套件，可以综合评估设备模型、量化、运行时和硬件，对于想要了解模型在边缘设备上表现的人来说是个好工具。
7月21日
论文11:26
SelectInfer：面向端侧LLM的选择性神经元加载与计算框架这篇论文提出了一种在手机上跑大模型的新思路：不加载全部神经元，只算有用的部分。效果不错，内存和计算都省很多，关键是精度没掉。
5月22日
TLMs: 边缘设备上的 Tiny LLMs 与智能体
边缘设备上跑 LLM 和智能体终于有了可落地的方案——2.7 亿参数的 Function Gemma 在手机上就能达到 90%+ 准确率，做移动端 AI 应用的开发者可以直接参考其微调路径和架构设计。
