Baidu ha pubblicato Unlimited OCR, un nuovo modello OCR pensato per affrontare uno dei problemi più concreti nell’analisi documentale con modelli multimodali: la lettura di documenti lunghi.
Negli ultimi anni l’OCR è cambiato molto. Non si tratta più soltanto di riconoscere caratteri dentro un’immagine, ma di comprendere documenti complessi: pagine con tabelle, formule, layout articolati, immagini, note, colonne e ordine di lettura non sempre lineare.
Per questo molti modelli moderni usano un approccio end-to-end basato su LLM o modelli vision-language: l’immagine del documento viene trasformata in rappresentazioni visive e poi un decoder genera il testo strutturato.
Il vantaggio è evidente: il modello può sfruttare anche la conoscenza linguistica per produrre un output più coerente.
Il problema, però, emerge quando il documento diventa lungo.
Il limite: più testo generi, più memoria consumi
Nei modelli basati su Transformer, durante la generazione viene mantenuta una memoria interna chiamata KV cache. In modo semplificato, è ciò che permette al modello di non ricalcolare da zero tutto ciò che ha già prodotto.
Il punto è che, nei decoder tradizionali, questa cache cresce man mano che l’output si allunga.
Se il modello deve leggere una pagina, il problema è gestibile. Se deve leggere decine di pagine in un unico passaggio, la situazione cambia: aumentano memoria richiesta, costo computazionale e latenza.
È proprio qui che Unlimited OCR introduce l’idea più interessante.
L’idea: una memoria più simile a quella umana
Nel paper, gli autori partono da un’osservazione semplice: quando una persona copia un testo lungo, non mantiene in mente tutto ciò che ha già scritto.
Guarda il documento originale, tiene traccia di una piccola porzione del testo appena prodotto e continua da lì.
In altre parole, conserva un riferimento stabile alla fonte e una memoria di lavoro limitata ma sufficiente per non perdere il punto.
Unlimited OCR prova a portare questa intuizione dentro l’architettura del modello attraverso una tecnica chiamata Reference Sliding Window Attention, o R-SWA.
Che cosa fa R-SWA
Con R-SWA, ogni token generato può guardare due cose:
- tutti i token di riferimento, cioè i token visivi del documento e il prompt;
- solo una finestra recente dei token già generati.
Nel paper, la finestra sui token generati è pari a 128 token di default.
Questo significa che il modello mantiene sempre accesso al documento originale, ma non conserva tutta la storia dell’output generato. Tiene solo la parte recente, quella utile per orientarsi.
Il risultato è che la KV cache non cresce più linearmente con la lunghezza del testo prodotto: resta sostanzialmente costante.
Perché questo è importante
La conseguenza pratica è rilevante: se memoria e latenza restano stabili, diventa più realistico analizzare documenti lunghi in un unico flusso, senza spezzare tutto pagina per pagina.
Secondo il paper, Unlimited OCR può trascrivere decine di pagine in un singolo forward pass con una lunghezza massima standard di 32K token. Nei test su documenti lunghi, il modello mantiene buoni risultati anche su input da 20 pagine e arriva a gestire casi da oltre 40 pagine.
Un altro aspetto interessante è la dimensione del modello: Unlimited OCR usa un’architettura MoE con 3B parametri totali e circa 0,5B parametri attivi durante l’inferenza.
Non è quindi un caso in cui il miglioramento nasce semplicemente dall’aumentare enormemente la scala del modello. La parte interessante è soprattutto architetturale.
I risultati
Sul benchmark OmniDocBench, Unlimited OCR ottiene risultati molto competitivi rispetto ad altri modelli end-to-end per document parsing.
Nel paper viene riportato un miglioramento significativo rispetto al baseline DeepSeek OCR, sia sul punteggio complessivo sia su elementi come testo, formule, tabelle e ordine di lettura.
C’è anche un dato interessante sull’efficienza: al crescere della lunghezza dell’output, DeepSeek OCR tende a rallentare, mentre Unlimited OCR mantiene una velocità più stabile grazie alla cache costante.
"Unlimited" non significa davvero illimitato
Il nome è forte, ma va letto con attenzione.
Gli stessi autori chiariscono che il modello non è davvero illimitato: resta vincolato dalla lunghezza del contesto e dalla fase di prefill, cioè dal numero di token necessari per rappresentare il documento di partenza.
In prospettiva, propongono due direzioni: contesti più lunghi, ad esempio 128K, e un sistema in grado di recuperare dinamicamente porzioni della cache di riferimento, simulando in qualche modo l’azione umana di “sfogliare” un documento.
Perché ci ha colpito
Unlimited OCR è interessante per un motivo semplice: rende più praticabile l’OCR su documenti lunghi.
Non una pagina alla volta. Non con memoria e latenza che crescono a ogni token generato. Ma con un meccanismo pensato per mantenere stabile il costo della lettura.
Per chi lavora con contratti, report, manuali, fascicoli o archivi documentali, questo è il punto: l’OCR deve reggere documenti reali, non solo esempi puliti da benchmark.
Unlimited OCR non chiude il problema, ma indica una direzione chiara: modelli più efficienti, capaci di leggere più a lungo senza perdere continuità.
Paper: Unlimited OCR Works