KOSMOS:自调度持久内核实现通信与计算重叠
一篇很硬核的内核优化论文:不靠预设切分,让 GPU 自己在通信和计算间切换,DeepSeek-V3 训练比 DeepEP 快 1.29-1.83 倍。
一篇很硬核的内核优化论文:不靠预设切分,让 GPU 自己在通信和计算间切换,DeepSeek-V3 训练比 DeepEP 快 1.29-1.83 倍。
SMT解决了RNN训练中并行性差和长程依赖难学的问题,做序列建模或时间序列分析的开发者可以直接用这个方法替代BPTT,训练效率会大幅提升。
做移动端GUI Agent或强化学习的团队终于有了一个可验证、高并发的仿真平台,不用再依赖私有后端或模糊匹配评估,建议直接看项目页和论文。