模型

vLLM 首日支持 Tencent Hunyuan Hy4 flash,1M 上下文可部署

精选理由

vLLM 发布当天就支持了腾讯混元的 Hy4 flash,224B 参数只激活 12B,还有 1M 上下文和多模态。有 NVIDIA GPU 的可以直接拉官方 Docker 镜像跑起来,想做长文档解析或 computer use agent 的别错过部署配方。

vLLM 宣布对腾讯混元 Hy4 flash 提供 Day-0 支持,用户可在 NVIDIA GPU 上直接通过 vLLM 部署该模型。官方提供 Docker 镜像 vllm/vllm-openai:hy4-flash 和部署配方,集成工作由 @inferact 完成。

正文

Hy4 flash 总参数量 224B,其中包含 64B Engram,激活参数仅 12B。架构上采用混合注意力、Latent MoE 和 Engram 机制,主打推理效率。模型支持 1M token 上下文窗口,具备多模态理解能力,适用场景包括科研、文档与幻灯片解析以及计算机操作(computer use)。

对开发者来说,这意味着一个高上下文、多模态的开源友好模型可以零等待接入 vLLM 生态,与 DeepSeek、Qwen 等已有 vLLM 支持的中国模型形成同一路径。依赖长文档处理或 agent 式计算机操作的团队可以直接用官方镜像起步。

原文 · vLLM

🎉 Day-0 support for @TencentHunyuan’s Hy4 flash is here in vLLM!

A 1M-token context and multimodal understanding for research, documents, slides and computer use.

224B total parameters, including 64B Engram, with 12B active. Hybrid attention, Latent MoE and Engram put efficiency at the center of the architecture.

Run Hy4 flash on @NVIDIA GPUs with vLLM, with integration work by @inferact. Get started with the release image and deployment recipe:

Docker image: vllm/vllm-openai:hy4-flash Recipe: https://t.co/J3SSwNPj8p

产业坐标与信源核验

本条情报归属 AITOP「模型」核心栏目,重点聚焦中国 AI 产业与国产大模型生态。在跨区域产业观察坐标中,该动态直接关联「AI 开发者工具链、Coding Agent 与工程化实践」「中美大模型技术代差与商业化对照」研究主线,反映出当前技术演进与商业落地的最新风向。涉及核心实体与技术议题包括:Hunyuan、vLLM、开源模型、多模态,读者可通过下方标签进入对应专题页查阅历史脉络与关联对比。

信源核验说明:本文原始线索采编自「vLLM」(@vllm_project),经 AITOP 多维评分管线结构化提炼。

vLLM 首日支持 Tencent Hunyuan Hy4 flash,1M 上下文可部署|AI热报