事件专题 ·官方一手

Deepgram 将 Nova-3 语音模型迁移至 AWS Trainium2 优化推理

Deepgram 与 AWS 前沿部署工程团队合作,把 Nova-3 语音转文字模型迁移到 AWS Trainium2 芯片做离线批量推理。移植过程基于 AWS Neuron 软件栈,并进行 kernel 级调优。团队还用 Rust 写了数据并行运行时来支撑批量转录。文章给出了在批量转录场景下的吞吐量和成本结果。

当前结论

Deepgram 把自家 Nova-3 语音模型搬到 AWS Trainium2 芯片上跑,讲了移植细节、kernel 调优和成本数据,做语音推理的可以看看。

3 个信源38° AI 热度最后更新 2026/10/19 16:23:22

证据链

3 个信源
主要来源AWS Machine Learning Blog
查看原文

冲突核查

现有去重数据只说明这些来源讨论同一事件,不代表立场相同。当前没有结构化的支持或反驳证据,不自动推断冲突。