Distributed（分布式计算）指将计算、存储或智能体任务拆分到多台设备或多节点上协同完成的技术体系，是大模型训练与推理突破单机瓶颈的核心手段。近期围绕 Distributed 的讨论集中在两条主线：一是底层通信与训练系统的持续优化，二是把闲置算力组成分布式推理云的新玩法。
Distributed 近期进展
当前焦点与观察点
当前的 Distributed 议题正在从"单一大集群训练"扩展到"异构闲置算力聚合"。苹果的 Minions 路线意味着分布式不再只属于数据中心：消费级设备通过高速互联也能承担推理负载，这对推理成本结构有潜在影响，但其实际吞吐、稳定性与能耗仍待大规模验证。
另一条主线是通信与调度效率。NCCL M2N 等工作表明，在超大模型训练中，张量重分片、拓扑感知通信和自动调优已成为决定训练效率的关键环节，减少对人工经验的依赖。
值得关注的观察点有三：一是闲置设备组网方案能否在隐私、安全和计费模式上走通；二是多智能体分布式框架（如 JiuwenSwarm、Distributed Agent System）从演示走向生产环境的成熟度；三是社区工程实践与学术方案的落差——Orosz 与 Newman 的讨论提醒从业者，微服务时代的分布式经验不能简单套用到 AI 系统上。