行业精选
Modal CEO Erik Bernhardsson 谈 GPU 弹性调度与 Agent 云的经济账
Why AI Compute Comes in Rectangles — Erik Bernhardsson, Modal CEO
精选理由
Modal 老大聊为什么 GPU 租不到"刚好一块"，做推理或跑 Agent 的开发者听完能少花不少冤枉钱。
Modal CEO Erik Bernhardsson 在 Latent Space 访谈中解释了为什么 AI 算力以矩形方式分配。GPU 资源无法任意细粒度切分，弹性伸缩的实际成本结构因此受到硬件粒度约束。访谈还讨论了 sandbox 规模增长带来的基础设施压力，以及面向 Agent 工作负载的云计算定价经济学。
原文 · Latent Space (swyx)
Why AI Compute Comes in Rectangles — Erik Bernhardsson, Modal CEO
Elastic GPUs, sandbox growth, and the economics of the agent cloud
