腾讯微信开源 WeVisOne-VL:2B/4B 模型统一检测、OCR、分割和抠图
微信团队开源的 WeVisOne-VL,一个模型同时干检测、OCR 和抠图,不用再单独跑 SAM,抠头发丝都行,权重直接下载。
腾讯微信视觉团队开源视觉语言模型 WeVisOne-VL,提供 2B 和 4B 两个版本,统一覆盖开放词表检测、计数、OCR、分割和透明度抠图。模型基于 Qwen3-VL,配一个仅 960 万参数的像素解码器,不依赖 SAM 就能输出掩码和透明度蒙版。官方数据中,4B 版在 LVIS 上 F1 从 50.7 提到 55.3,票据 OCR 基准 SROIE 拿到 68.1,超过 PP-OCRv5 的 58.6。在自建的 WeRef-Bench 上拒答率达 96.4%,而 Rex-Omni、LocateAllocate 等对手在 RefCOCOg 上拒答率不足 1%。团队还开源了把二值掩码转高质量蒙版的标注工具 Mask2Alpha。
腾讯微信开源发布 WeVisOne-VL:一套 2B/4B 模型通吃检测、计数、OCR、分割和抠图 微信视觉团队开源的视觉语言基础模型 WeVisOne-VL,把「框出物体」和「抠出像素」两类感知任务统一进一个模型:靠结构化的逐 token 输出加一个只有 960 万参数的像素解码器,不依赖 SAM 就能出掩码和透明度蒙版,并且在目标不存在时会老实回答 None,而不是硬编一个框。 开源地址: github.com/Tencent/WeVisO… 它统一了哪些任务 名字取自 WeChat Vision All-in-One。覆盖的任务分两层: · 物体级:开放词表检测、按描述定位物体、计数、点选、OCR(识别文字并给出位置) · 像素级:按描述分割(输出二值掩码)、可提示抠图(输出连续的透明度蒙版,也就是头发丝级别的抠图) 用户可以按需要选输出粒度:一个点、一个框、一张掩码,或者一张精细的透明度蒙版。 怎么做到的 数据引擎。 用知识图谱发现概念,再让几个互补的专家模型去定位,由视觉语言模型核验,最后把核验过的框扩展成掩码和透明度蒙版。按这套流程标注了超过 1 亿张图。其中把二值掩码转成高质量蒙版的标注器 Mask2Alpha 也单独开源了,在仓库的 mask2alpha 分支。 统一的任务写法。 所有任务都写成结构化文本:框和点用 <0> 到 <1000> 的坐标 token 表示,目标不存在就输出 None,需要像素级结果时在每个框后面跟一个 <OBJ> token。 轻量像素解码器。 解码器只有 960 万参数,它把每个 <OBJ> token 的隐状态、预测出的框,以及 Qwen3-VL 视觉编码器的多层特征结合起来,预测全分辨率的掩码或蒙版。也就是说主干基于 Qwen3-VL,像素输出靠这个小解码器补上。 评测成绩怎么样 官方拿 4B 版本和每个基准上最强的开源对手比,对手包括 9B 以内的 Qwen3-VL / Qwen3.5、Rex-Omni、LocateAnything,以及专门的分割和抠图模型。 物体级任务。 开放词表检测在 LVIS 上 F1 从 50.7 提到 55.3;密集场景提升最明显,Dense200 从 58.7 提到 71.3。按描述定位在 RefCOCOg test 上从 77.6 到 81.8。计数在 PixMo-Count 上准确率从 82.8 到 89.6,点选在 PointBench 上从 69.9 到 71.9。 OCR。 TotalText 上 F1 从 43.3 提到 52.0;在票据类的 SROIE 上拿到 68.1,超过了专门做 OCR 的 PP-OCRv5(58.6)。 像素级任务。 按描述分割在 ReasonSeg val 上 gIoU 从 65.0 到 71.2。抠图的误差(MAD,越低越好)大约减半:框提示抠图在 P3M-500-NP 上从 15.4 降到 7.3,文本提示抠图在 WeRefMat 指代任务上从 22.4 降到 9.8。 拒答能力差距最大。 在团队自建的 WeRef-Bench 上,拒答率从最强对手的 73.0% 提到 96.4%。RefCOCOg 上更直观:Rex-Omni、LocateAnything 的拒答率都不到 1%,基本是「有问必框」,WeVisOne-VL-4B 是 67.4%。 还有一个细节:抠图上 2B 版本有几项比 4B 还好,说明这块主要靠像素解码器和数据,而不是主干大小。评测设置是贪心解码,每张图最多 1960 个视觉 token。 WeChat @Weixin_WeChat we gave our AI an eye for detail. 👀 Meet WeVisOne-VL, an open-source 2B/4B model from our Weixin Vision team. It finds and counts objects, reads text, and makes precise masks and cutouts—no separate SAM needed. Not in the image? "None." github.com/Tencent/WeVisO… m 🔗 View Quoted Tweet 💬 0 🔄 0 ❤️ 0 👀 175 ⚡