产品精选

Reactor World 与 AWS 基于 Trainium 实现实时自回归扩散视频生成

精选理由

Reactor World 和 AWS 在 Trainium 上做到了实时自回归扩散视频生成,靠的是手写内核而不是通用编译器,做视频生成的可以看看他们的思路。

Reactor World 与 Amazon 的 Neuron Science 团队合作,利用 Neuron Kernel Interface 在 Trainium 芯片上实现了实时自回归扩散视频生成。团队针对动态形状、内存访问模式和缓存管理这三个通用编译器难以处理的瓶颈,编写了内核级优化方案。这些技术可以跨不同视频生成模型复用。

原文 · Amazon Science

Using the Neuron Kernel Interface, @reactorworld and Amazon's Neuron Science team built a kernel-centric path to real-time autoregressive diffusion video generation on Trainium.

They tackled the dynamic shapes, memory access patterns, and cache management that make these workloads hard for generic compilers, and built techniques that generalize across models. https://t.co/J9cnKbouO6