GearUp：利用 DAG 空闲时间隐藏 Serverless 推理加载开销
一篇系统方向的论文：GearUp 把模型加载塞进 DAG 的空闲时段，延迟最高降到十分之一，内存还省九成，做推理服务的人可以看看。
#GearUp
共 1 条 · 7 天 1 条 · 30 天 1 条
信息流里打上「GearUp」标签的资讯、产品与论文，按刊登时间排，新的在上。
10月30日
一篇系统方向的论文：GearUp 把模型加载塞进 DAG 的空闲时段，延迟最高降到十分之一，内存还省九成，做推理服务的人可以看看。