#TPU
共 46 条 · 7 天 3 条 · 30 天 17 条
5月19日
5月14日
Jeff Dean 谈 Google TPU v8t/v8i 发布亮点
Google 新一代 TPU 发布,AI 训练和推理性能再升级,做大规模模型训练或云服务的团队值得关注,看看 Jeff Dean 最兴奋的点是什么。
Google Translate 20周年:从5-gram到神经网络的进化史
Jeff Dean 亲自梳理了 Google Translate 从统计方法到神经网络的两次关键跃迁,做 NLP/翻译系统的开发者能从中看到技术选型的真实演进逻辑,值得一读。
5月13日
TorchTPU:在Google TPU上原生运行PyTorch
TorchTPU让PyTorch用户能够更顺畅地迁移到TPU,同时保持Eager模式体验,这对需要TPU算力的大规模AI训练场景有直接价值。
UCSD在Google TPU实现3倍LLM推理加速:DFlash扩散式推测解码
这一工作展示了扩散式推测解码在TPU上的实际落地价值,突破传统推测解码的顺序瓶颈,尤其利好大规模LLM推理场景。开源集成至vLLM有助于行业快速采用。