主要来源Cohere
查看原文事件专题 ·单一信源
Cohere North Mini Code 性能测试结果
Cohere 发布 North Mini Code 模型测试结果。在 BF16 精度下使用单张 H100 显卡，BS=1 时比 vLLM 快 1.58 倍。在 BS=8 时，端到端服务速度达到 vLLM 的 1.25-1.41 倍。
当前结论
Cohere 新模型 North Mini Code 在单卡 H100 上比 vLLM 更快，推理性能提升明显。
2 个信源58° AI 热度最后更新 2026/9/8 19:44:32
证据链
2 个信源相关来源 1shao__meng
查看原文冲突核查
现有去重数据只说明这些来源讨论同一事件，不代表立场相同。当前没有结构化的支持或反驳证据，不自动推断冲突。