Baidu vydalo open-source Unlimited OCR 2, model pro převod obrázků stránek na text. Zpracuje uspořádané dokumenty od krátkých souborů po stovky stran a při převodu zachovává strukturu i návaznost obsahu mezi stránkami.
Převod jednotlivých stránek i celých dokumentů
Vision-language model se třemi miliardami parametrů převádí stránky na text se zachováním nadpisů, tabulek, vzorců, obrázků a pořadí čtení. Kontext napříč stránkami pomáhá udržet návaznost tabulek a odkazů, kterou může rozdělení dokumentu na izolované části narušit.
Rozhraní Transformers nabízí metodu infer pro jednotlivou stránku a infer_multi pro uspořádanou sadu stránek. První režim stránku rozdělí na obrazové oblasti; druhý použije pro každou stránku jeden celkový pohled a sekvenci zpracuje jediným voláním.
Ukázané rozhraní přijímá obrázky stránek. Kdo chce zpracovat PDF, musí proto při použití tohoto rozhraní jeho stránky nejprve převést na obrázky.
Jak si model uchovává kontext
Pro práci s dlouhými dokumenty používá model mechanismus Sparse Reference Sliding Window Attention, zkráceně SR-SWA. Ten komprimuje textové a obrazové interakce do pevně velké sady referenčních tokenů, kterou při průchodu stránkami průběžně aktualizuje. Pozdější výstup tak může využít shrnutí dřívějšího obsahu, aniž by při každém kroku dekódování procházel celou tokenovou historii.
Baidu popisuje zpracování jako „neomezené“ ve smyslu omezeného stavu pozornosti: paměť a latence dekódování na token mohou podle firmy zůstávat téměř stabilní. S počtem stránek však rostou nároky na kódování obrázků, generování výstupu i celkový čas zpracování.
Shrnutí dřívějšího obsahu je ztrátové. Pevná sada referenčních tokenů proto může zahodit detail, který bude důležitý až mnohem později v dokumentu.
Unlimited OCR 2 navazuje na DeepSeek-OCR, DeepSeek-OCR-2, PaddleOCR a první Unlimited OCR. Použití obdobné pozornosti pro dlouhá videa nebo rozsáhlý kód zůstává výzkumným směrem.
Srovnání v testech dlouhých dokumentů
Podle Baidu model dosahuje špičkových výsledků v testech MPDocBench a MarathonDocBench. První pokrývá dokumenty o desítkách stran, druhý dokumenty o stovkách stran. Zveřejněné srovnání zahrnuje také modelové rodiny Qwen, Gemini, GLM, DeepSeek, MiniMax a Kimi.
Dostupnost a požadavky na spuštění
Baidu zveřejnilo váhy modelu, rozhraní Transformers a kód na GitHubu pod licencí MIT. Součástí vydání jsou také postupy pro nasazení se SGLang a vLLM.
Ukázka pro Transformers předpokládá GPU s podporou CUDA a bfloat16. Samotné váhy ve formátu bfloat16 potřebují přibližně 6 GB paměti; další paměť je nutná pro zpracování a souběžné požadavky.
Volba trust_remote_code=True spouští Python z repozitáře modelu. Před nasazením je proto vhodné kód zkontrolovat a připnout ověřenou revizi.
Nastavení zpracování v SGLang
Produkční postup Baidu klade důraz na SGLang a používá upravený balíček z repozitáře. Nabízí nastavení oken stránek, výstupních limitů a statické alokace paměti.
Při zpracování v oknech přebírá následující okno konec KV cache předchozího. Menší okna snižují špičkovou spotřebu paměti, mohou ale zhoršit návaznost obsahu přes jejich hranice.
Parametr SGLANG_UOCR_MAX_PAGE_TOKENS omezuje počet výstupních tokenů na stránku. Brání tomu, aby jediná problematická stránka spotřebovala rozpočet generování určený celému dokumentu.
