模型精选

Ming-3.0 获得 vLLM-Omni Day-0 支持

精选理由

蚂蚁开源了 5 个语音模型,TTS、ASR、音频理解都有,MoE 架构最大 126B-A6.5B,用 vLLM-Omni 当天就能部署跑起来。

蚂蚁集团 AntLingAGI 开源了 Ming-3.0 系列共 5 个语音模型,覆盖 TTS、音频理解和 ASR 三类任务。所有模型均采用 MoE 架构,参数规模从 0.5B 到 126B-A6.5B。vLLM-Omni 提供发布当日的 Day-0 推理支持,用户可直接部署这些模型。

原文 · vLLM

Day-0 support for Ming-3.0 in vLLM-Omni

@AntLingAGI just open-sourced 5 speech models across TTS, audio understanding, and ASR — all MoE, from 0.5B to 126B-A6.5B.

Serve them today with vLLM-Omni. Congrats to the @AntLingAGI team!