斯坦福提出新并行策略提升扩散模型训练效率
斯坦福团队新提出的CSBP并行策略，能让扩散模型训练速度大幅提升，特别是长上下文场景，值得看看。
#并行策略
共 4 条 · 7 天 0 条 · 30 天 0 条
信息流里打上「并行策略」标签的资讯、产品与论文，按刊登时间排，新的在上。
9月19日
6月10日
Piper：可编程分布式训练系统，解耦策略与运行时实现
Piper 解决了分布式训练中策略与实现绑定的痛点，做大规模模型训练或并行策略研究的开发者可以直接用这套框架灵活组合新策略，省去手动调优的麻烦。
5月20日
推理扩展瓶颈：LLM 推理从计算受限转向容量受限
这篇论文戳中了推理模型部署的核心痛点——从计算瓶颈转向容量瓶颈，做 LLM 推理优化的工程师和架构师值得细读，能帮你避开常见的并行策略陷阱。
5月19日
Charon：大规模LLM训练与推理的统一细粒度模拟器
做 LLM 部署优化的工程师终于有了一个高精度模拟器来验证“如果…会怎样”的假设，Charon 能帮你快速找到最佳配置，避免盲目调参，建议直接看论文实验部分。