GearUp：利用 DAG 空闲时间隐藏 Serverless 推理加载开销

论文提出 GearUp，一个面向 DAG 式 ML 推理工作流的 serverless 服务系统。它通过分析每个节点的加载阶段（库、模型权重、CUDA kernel），把初始化调度进 DAG 暴露的 slack 时间，并用流量自适应的 keep-alive 策略控制实例保留时长。在 AMBER Alert 和 FINRA-ML 工作流、NVIDIA L40S GPU 上，相对 SMIless 中位端到端延迟分别降低 64.5% 和 75.9%；相对 InstaInfer 的急切预加载，GPU 和主机内存分配最多下降 83.9% 和 94.6%。四节点上还实现 4.2 倍强扩展。