模型官方一手

Inception 发布 Mercury 3 扩散语言模型,速度达 1,068 tokens/秒

Inception Releases Mercury 3 Diffusion LLM at 1,068 Tokens per Second

精选理由

Inception 出了扩散架构的 Mercury 3,每秒能吐 1068 个 token,比 GPT-6 Luna 和 Claude Haiku 5.5 还快,还带 1M 上下文。

Inception 发布扩散式语言模型 Mercury 3,官方称生成速度达 1,068 tokens/秒,支持 100 万 token 上下文。在其自测的 12 项基准中,Mercury 3 有 8 项领先 GPT-6 Luna 和 Claude Haiku 5.5。该模型采用扩散架构生成文本,与主流自回归模型路径不同。

图片来源 · marktechpost
原文 · marktechpost

Inception Releases Mercury 3 Diffusion LLM at 1,068 Tokens per Second

Inception released Mercury 3, a diffusion LLM it says runs at 1,068 tokens per second with a 1M-token context. On Inception’s own table it leads GPT-6 Luna and Claude Haiku 5.5 on 8 of 12 benchmarks. The post Inception Releases Mercury 3 Diffusion LLM at 1,068 Tokens per Second appeared first on MarkTechPost .