小米开源空间音频理解模型 MiDashengLM-Spatial
给大模型装上“一双耳朵”:小米开源空间音频理解大模型 MiDashengLM-Spatial
小米把音频模型升级到能听出声音方位了,权重和代码全开源,做智能家居或车载语音的可以直接上手。
小米于 10 月 15 日发布 MiDashengLM-Spatial,以 Apache 2.0 许可证开源模型权重和推理代码。新模型以 MiDashengLM-7B 为基座,在听懂声音内容之外,还能感知声源方向和空间分布。小米称其为业界首个开源的端到端空间音频理解大模型。Dasheng 系列技术此前已在小米智能家居、汽车座舱落地超过 30 项应用,新模型将陆续接入这些场景。技术报告、GitHub 评估代码和 HuggingFace 权重均已公开。
给大模型装上“一双耳朵”:小米开源空间音频理解大模型 MiDashengLM-Spatial
IT之家 10 月 16 日消息,小米昨日宣布,带来 Dasheng 系列的重要新成员 ——MiDashengLM-Spatial,完整公开模型权重和推理代码,并以 Apache 2.0 许可证发布。 过去两年,小米先后发布并开源了声音基座模型 Xiaomi Dasheng 及声音理解大模型 MiDashengLM-7B 。相关技术已在小米智能家居、汽车座舱等场景实现超过 30 项落地应用,能够对语音、环境声音和音乐进行统一感知与理解。 据介绍,新模型以 MiDashengLM-7B 为基座,进一步为声音理解大模型赋予“一双耳朵”,使其不仅能够听懂声音的内容,还能感知声音来自何处、如何在空间中分布。 小米表示,MiDashengLM-Spatial 是 业界首个开源的端到端空间音频理解大模型 ,在保留基础音频理解能力的同时,具备空间感知与推理能力,推动音频大模型从“听懂声音”进一步迈向“理解声音所处的空间”。 该模型将陆续应用于小米智能家居、汽车座舱等场景,以空间听觉能力进一步提升“人车家全生态”的交互体验。相关测试数据如下: IT之家附相关链接: 项目主页: https://jinbo-hu.github.io/midashenglm-spatial-demo/ 技术报告: https://arxiv.org/abs/2610.11156 评估代码(GitHub): https://github.com/xiaomi-research/midashenglm-spatial 模型结构与权重(HuggingFace): https://huggingface.co/mispeech/midashenglm-spatial
- pandaily03:04原文