#TensorRT-LLM

共 3 条 · 7 天 0 条 · 30 天 1 条

信息流里打上「TensorRT-LLM」标签的资讯、产品与论文，按刊登时间排，新的在上。

10月2日

论文 Agent 与开发者多源确认精选10:02

清华团队推出MegaFlux，解决MoE模型GPU负载不均衡问题，在DeepSeek-V4-Pro上实测显著加速。

arXiv: DeepSeek@Jianzhu Yao 等 7 人10 个信源在谈原文

8月29日

产品多源确认精选06:26

NVIDIA解释了Dynamo如何与现有推理引擎配合工作，帮你扩展GPU推理能力。

官方账号NVIDIA AI@NVIDIAAI4 个信源在谈原文

7月13日

产品多源确认精选11:16

Together AI 把底层优化玩出花，ATLAS 加上 NVIDIA Blackwell 和一套 CUDA/TensorRT 工具，推理速度能快不少。搞部署的可以看看这套方案。

官方账号Together AI@togethercompute5 个信源在谈原文