Meta 发布 Intelligent Delivery:让广告排序系统的每一份算力用在刀刃上
Meta 工程博客这篇讲广告排序怎么动态分配算力,把每个请求该用多大模型、跑在哪种芯片都算清楚。做推荐系统和推理优化的工程师能直接抄思路,比单纯加卡省钱多了。
Meta 工程博客这篇讲广告排序怎么动态分配算力,把每个请求该用多大模型、跑在哪种芯片都算清楚。做推荐系统和推理优化的工程师能直接抄思路,比单纯加卡省钱多了。
这篇论文讨论怎么管上万个抢算力的研究智能体,用招标加拨款代替人工派活,还跑了万人规模实验,做 agent 系统的可以看看。
想真正理解 AI 公司内部如何打仗的从业者,这期播客揭示了算力分配才是比模型能力更稀缺的命门,听完会对行业格局有全新认知。