Anthropic 上市路演把家底摊开了讲:Claude 同时跑在 AWS、Google、NVIDIA 和 AMD 四种芯片上,接入 AMD 只花 3 天还是自家智能体 Mythos 干的活。想了解大厂怎么压低算力成本、以及“算力乘数”这个概念的,这篇值得点进去看原始转录。
#AWS Trainium
共 10 条 · 7 天 0 条 · 30 天 2 条
信息流里打上「AWS Trainium」标签的资讯、产品与论文,按刊登时间排,新的在上。
11月11日
Anthropic IPO 路演披露多芯片战略:Claude 已跑通四大芯片平台
11月10日
在 AWS Trainium 上用 GPSIMD 自定义算子加速 DeepSeek-V4.1-Flash Engram 模块
把 DeepSeek-V4.1-Flash 的 Engram 记忆模块搬到 Trainium 3 上跑,作者自己写 C++ 算子塞进 GPSIMD 核心,n-gram 哈希快了 1.79 倍,表查找快近 5 倍。在 AWS 上部署记忆增强 LLM 的工程团队可以看看这套绕过官方工具链限制的做法。
10月23日
AWS Trainium 模型支持查询:torch-neuronx 兼容性一览
要在 AWS Trainium 上跑模型的可以看看,Hugging Face 把 torch-neuronx 支持的模型整理成查询方式,不用再自己一个个试。
10月22日
在 AWS Trainium 上用 torchtitan 训练 Qwen3 的三种方式
想在 Trainium 上训 Qwen3 的可以看这篇,AWS 把三条路都跑通了,配置还通用
TorchNeuron 性能剖析教程:在 AWS Trainium 上做系统级 profiling
在 Trainium 上跑 PyTorch 但不知道慢在哪的朋友,这篇教你怎么用 Neuron Profiler 找瓶颈,很实用。
10月21日
Amazon 开源 TorchNeuron,让 PyTorch 代码直接跑在 Trainium 芯片上
Amazon 把 PyTorch 代码直接编译到自家 Trainium 芯片上跑,开发者一行代码不用改,还开源了。
10月20日
PyTorch 宣布原生支持 AWS Trainium 芯片,无需改代码
PyTorch 现在能在 Amazon 自研的 Trainium 芯片上直接跑,代码一行不用改,想省算力成本的可以关注。
10月19日
TorchNeuron 将 AWS Trainium 注册为 PyTorch 原生设备
AWS 把 Trainium 做成了 PyTorch 原生设备,10 月 20 日开源。想在非 GPU 硬件上跑训练的朋友可以留意。
10月9日
PyTorch 现已原生支持 AWS Trainium 芯片
PyTorch 直接跑在 AWS 自研 Trainium 上了,GPU 之外多了个训练选择,10 月大会还有现场 demo。
10月7日
AWS 讲解 Trainium 上的 PyTorch 性能分析实战方法
AWS 两位工程师在 PyTorch 大会上手把手教你从 torch.profiler 调到硬件周期级,Trainium 优化性能的实用流程。