模型

Mercury 3 上架 Vercel AI Gateway:1000 tokens/秒,限时五折

精选理由

扩散架构的 Mercury 3 上 Vercel AI Gateway 了,每秒 1000 tokens,还带 1M 上下文和工具调用,现在五折,跑高并发可以试试。

Inception AI 的扩散语言模型 Mercury 3 已接入 Vercel AI Gateway,目前享受 50% 折扣。该模型最高可跑到每秒 1000 tokens 的生成速度,提供 1M token 的上下文窗口。它同时支持 tool calling 和结构化输出,适合高吞吐场景下使用。

原文 · Guillermo Rauch

1,000 tokens per second btw Vercel Developers @vercel_dev Mercury 3 from @_inception_ai is live on AI Gateway at a 50% discount. A high-throughput diffusion model with a 1M-token context window and support for tool calling and structured outputs. 𝚒𝚗𝚌𝚎𝚙𝚝𝚒𝚘𝚗/𝚖 vercel.com/changelog/merc… //t.co/0FZmayca2J 🔗 View Quoted Tweet 💬 26 🔄 3 ❤️ 104 👀 7198 📊 26 ⚡