文心 Unlimited OCR 2 开源,SR-SWA 机制处理 3623 页文档
做 OCR 横评的博主实测了文心这个开源 OCR,整本 3623 页丢进去不用切分,显存从 47GB 降到 1.77GB,长文档处理可以直接抄作业。
文心 Unlimited OCR 2 是一个开源 OCR 项目,可整本处理长文档。实测《哈利·波特》七部曲 3623 页用时 1 小时 30 分,《三体》1222 页用时 50 分钟,《平凡的世界》1600 页 40 分钟完成。其核心是 SR-SWA(稀疏参考滑动窗口注意力),通过 Page Gate 圈出相关页、Token Sieve 挑出 top-k 块,使每步参考内容固定。百页文档单步解码比全注意力快 7.0 倍,峰值显存从 47 GB 降至 1.77 GB。在 100-300 页评测中拿到 77.06 分,通用大模型最高仅 33.74 分。
兄弟们,做过三次 OCR 横评的我说句实话。(看视频)
文心 Unlimited OCR 2,可能是今年最被低估的OCR类的开源项目。
3623 页的《哈利·波特》七部曲,整本丢进去,不切分、不拼接,1 小时 30 分读到最后一页。
1222 页的《三体》,50 分钟,我实测了《平凡的世界》1600页,40分钟完成可下载的txt。
以前的 OCR 卡在哪? 每写一个字,都要回头把前面所有页面再看一遍。 页数翻倍,要看的东西也翻倍。
它换了个思路,像人抄书一样:
→ Page Gate 先圈出相关的页 → Token Sieve 再挑出最相关的 top-k 块 → 每一步要参考的内容固定,文档再长也不变 这套机制叫 SR-SWA,稀疏参考滑动窗口注意力。
结果:
→ 百页文档单步解码,比全注意力快 7.0 倍 → 峰值显存从 47 GB 降到 1.77 GB → 100 到 300 页的评测拿到 77.06 分,通用大模型最高 33.74
开源地址评论区👇🏻