B300是NVIDIA推出的HGX B300 AI计算平台，专为大规模人工智能模型训练和推理设计。近期，B300在AI计算领域展现出强大的性能和广泛的应用前景，成为多家科技巨头部署AI基础设施的首选。
B300 近期进展
2.4亿美元合同让IBM为Together AI部署HGX B300算力，显示B300在商业AI服务中的重要性。据IBM获2.4亿美元合同，为Together AI部署HGX B300算力报道，IBM获得价值2.4亿美元的合同，为Together AI部署HGX B300算力，这表明B300正在成为AI服务提供商的重要基础设施选择。
8xB300配置下，SGLang以500 TPS服务GLM5.2 NVFP4 Agentic工作负载，展现其高性能处理能力。根据SGLang在8xB300上以500 TPS服务GLM5.2 NVFP4 Agentic工作负载的数据，在8块B300的配置下，SGLang系统能够达到500 TPS(每秒事务处理量)的服务水平，支持GLM5.2 NVFP4 Agentic工作负载，这证明了B300在处理复杂AI任务时的强大性能。
PCIe显卡跑DeepSeek推理通过内核补齐加通信重构，吞吐提升近7倍，展示了B300架构优化的潜力。PCIe 显卡跑 DeepSeek 推理被低估：内核补齐加通信重构，吞吐提升近 7 倍报道指出，通过特定的内核补齐和通信重构技术，PCIe显卡运行DeepSeek推理的吞吐量提升了近7倍，这表明B300架构在优化AI推理方面具有显著优势。
当前焦点与观察点
B300作为新一代AI计算平台，正在成为AI基础设施升级的关键选择。随着AI模型规模不断扩大，对计算资源的需求也在快速增长，B300凭借其高性能和可扩展性，满足了这一需求。然而，AI计算资源紧缺的问题依然存在，据AI计算资源紧缺：Kimi K3部署成本高达400万美元，推理性能大幅下降报道，Kimi K3的部署成本高达400万美元，这反映了AI基础设施的高昂成本。
同时，AI硬件安全也成为关注焦点，美国加州货运抢劫案频发，AI数据中心硬件成目标指出，美国加州发生多起针对AI数据中心硬件的抢劫案，这表明AI计算设备已成为犯罪分子的目标。此外，RoofLang 语言让 AI 优化 LLM 推理系统架构的研究显示，新型编程语言如RoofLang的出现，正在优化LLM推理系统架构，这可能进一步提高B300等计算平台的效率。
总体来看，B300在AI计算领域扮演着越来越重要的角色，其性能优化、成本控制和安全性将成为未来发展的关键方向。