百度发布 Unlimited OCR：3B MoE 模型用 R-SWA 解决长文档解析显存膨胀

百度推出 Unlimited OCR，一个 3B MoE 端到端文档解析模型，激活参数仅 5 亿，基于 DeepSeek-OCR 微调，可本地部署。核心机制 R-SWA 让 KV cache 变为固定容量队列：生成每个 token 时保留全部图像视觉 token，对已生成文本只回看最近 128 个，使显存和计算成本不随输出长度增长。输出 6000 token 时比 DeepSeek-OCR 快约 35%，32K 上下文单次前向可解析 40+ 页，每页 1024×1024 图像压缩为 256 token，Distinct-35 达 97%。模型直接输出 Markdown/JSON，支持表格、数学公式和阅读顺序恢复，可作为 RAG 和知识库的数据入口。