Together AI 与 IBM、NVIDIA 合作,在 IBM Cloud 部署专用 B300 集群
Together AI 拉上 IBM 和 NVIDIA,在 IBM Cloud 上搭了套专用 B300 集群跑开源模型推理,企业部署开源模型又多一个选择。
Together AI 拉上 IBM 和 NVIDIA,在 IBM Cloud 上搭了套专用 B300 集群跑开源模型推理,企业部署开源模型又多一个选择。
Emad 晒了 Stability AI 当年那台 4000 张 A100 的 Ezra 集群,全球前十,再看现在 8 个 B300 节点就接近它,算力迭代真快。
SGLang让GLM5.2在B300上单用户跑500 tok/s,交互延迟几乎不随上下文增长,对多轮Agent任务很实用。