Edge0 35B 模型在 iPhone 飞行模式下运行,峰值内存仅 1.8GB
35B 的模型离线跑在 iPhone 上只占 1.8GB 内存,这压缩水平真少见,做端侧 AI 的朋友可以看看他们的开源方案。
35B 的模型离线跑在 iPhone 上只占 1.8GB 内存,这压缩水平真少见,做端侧 AI 的朋友可以看看他们的开源方案。
Edge0团队开源了跨平台应用层,让你的手机电脑都能本地运行35B大模型,内存仅需1-2.5GB。
Edge0开源的流式语音识别模型,中英文都能转,延迟几百毫秒,显存占用恒定不爆内存,直播听写可以直接跑起来。
Edge0开源了能在手机上运行的35B模型,内存仅需1-2.5GB,对端侧AI开发者很实用。