#Megakernel

共 2 条 · 7 天 0 条 · 30 天 0 条

Cohere 2 GPU 1 LLM 1 North Mini Code 1 vLLM 1 内核融合 1 推理优化 1

信息流里打上「Megakernel」标签的资讯、产品与论文，按刊登时间排，新的在上。

9月9日

产品 Agent 与开发者多源确认78°08:49

Cohere 开源 Megakernel 推理系统

Cohere 开源了比 vLLM 快 1.58 倍的 Megakernel 推理系统，解决了传统引擎在算子边界处的 GPU 空转问题。

#Megakernel #Cohere #North Mini Code #vLLM

shao__meng@shao__meng3 个信源在谈原文

模型 Agent 与开发者07:52

Cohere推出融合LLM解码步骤的Megakernel

Cohere把LLM解码步骤合并成一个内核，大幅提升GPU效率，代码已开源。

#Cohere #Megakernel #LLM #GPU

官方账号Cohere@cohere原文