文心无限OCR 2开源

中国科学报 · 经八阕原文

10月27日,百度发布并开源文心Unlimited OCR 2。实测显示,该模型能够一次性解析《哈利·波特》全系列7部作品,累计超过3600页,在文档长度大幅增加的情况下,依然保持较高的精度和处理效率。

在面向多页文档解析的MPDocBench基准测试和专门评估百页级超长文档解析能力的MarathonDocBench上,文心Unlimited OCR 2的综合得分分别为84.6分和77.1分,大幅领先同类型模型。 据介绍,这一突破得益于文心Unlimited OCR 2所提出的“稀疏参考滑动窗口注意力机制”(Sparse Reference Sliding Window Attention,简写为SR-SWA)。该机制借鉴了人类抄录书籍的过程——通常专注于当前页面,只有在需要核对前文或查找跨页信息时,才会回看相关内容,而非反复翻阅整本书的内容。SR-SWA将该思路引入模型的注意力计算中。

图示:SR-SWA 的单步解码速度相比 Full Attention 和上一代 R-SWA 分别提升7倍和5.6倍。百度供图 当前,长篇研报、整本书籍等超长文档的解析需求日益增长,对OCR技术提出了全新挑战。此次发布的 Unlimited OCR 2 突破了超长文档解析的计算瓶颈,通过SR-SWA减少冗余视觉信息计算,结合“无限解码机制”降低超长文档解析的计算与显存开销,实现了“任意页数文档解析”。 据了解,第一代 Unlimited OCR于6月22日正式发布后,次日即登顶 GitHub Daily Trending 总榜、Python 榜, HuggingFace 全球模型总趋势榜、多模态模型趋势榜。截至目前,HuggingFace 累计下载量突破1000万次,GitHub 斩获2.85万Star,获得图灵奖得主、AI科学家杨立昆(Yann LeCun)的转发推荐。 即将于11月12日举行的百度世界2026大会将进一步展示文心 Unlimited OCR 2 的技术亮点及应用潜力。目前,文心Unlimited OCR 2 的代码和模型权重同步开源至 GitHub、Hugging Face,并同步上线百度智能云平台和百度AI开放平台。

来源:中国科学报(经八阕转载) · 查看原文
Scroll for more