社区基于 vLLM-Omni 打造本地短片工作台 OpenDirector

HaoAILab 开源了 FastH3-Omni，权重和训练代码全放出来，vLLM-Omni 当天就支持，消费级 RTX 显卡也能跑实时视频生成。

官方账号vLLM@vllm_project原文

vLLM 和 Physis-AI 一起搞了个推理服务系统 PhysisServe，靠流水线和多流调度同时压低延迟和提高吞吐，技术还会进 vLLM-Omni，做推理部署的可以盯一下。

官方账号vLLM@vllm_project原文

蚂蚁开源了 5 个语音模型，TTS、ASR、音频理解都有，MoE 架构最大 126B-A6.5B，用 vLLM-Omni 当天就能部署跑起来。

官方账号vLLM@vllm_project5 个信源在谈原文

vLLM团队发布了统一多模态运行时vLLM-Omni，解决了不同模态模型各自为政的问题，让语音、视觉和机器人系统可以协同工作。