Osegi
IA·2 min de lectura

Tesseract 5 aprende mansi: el error de OCR baja del 18,5 % al 0,85 %

El instituto ruso YuNIIIT ajustó Tesseract 5 para leer mansi impreso y redujo el error por carácter del 18,5 % al 0,85 %. El modelo es abierto y está en Hugging Face.

Printed page of Mansi text with macron vowels being scanned and converted to digital text by OCR software.
Imagen: Хабр

El Instituto de Investigación de Tecnologías de la Información de Ugra (YuNIIIT) ha ajustado el motor de código abierto Tesseract 5 para leer texto impreso en mansi. La tasa de error por carácter bajó del 18,5 % al 0,85 %, unas veinte veces menos. El modelo está publicado en Hugging Face y ya puede usarse.

El trabajo forma parte del proyecto «Corpus de la lengua mansi». En la primera fase, el equipo reunió desde cero 300.000 oraciones paralelas y entrenó una red neuronal para traducir entre ruso y mansi. Ahora toca el reconocimiento óptico de caracteres: la mayoría de los textos en mansi, como libros, manuales, colecciones de folclore y archivos de prensa, solo existen en papel. Transcribirlos a mano es lento y caro, y los pocos hablantes nativos aportan más en traducción y revisión experta.

Por qué falla el OCR estándar

El mansi usa el alfabeto cirílico con signos adicionales: vocales largas con macrón, como а̄, о̄, ӯ, э̄ y ы̄, y la letra ӈ para el sonido «ng». La duración de la vocal es relevante, y perder un macrón puede convertir una palabra en otra. El modelo ruso estándar de Tesseract no conoce estos caracteres: pierde la raya o genera basura, y se equivoca en unos 18 de cada 100 caracteres. Además, Unicode permite guardar la misma letra con macrón de varias maneras, idénticas para una persona pero distintas para un modelo.

Datos de entrenamiento sintéticos

Al no existir casi libros escaneados en mansi, el equipo generó sus propios datos. Scripts en Python tomaron textos reales de publicaciones impresas y electrónicas, los normalizaron a Unicode NFC y los dibujaron con varias decenas de tipografías, entre ellas FreeSerif, DejaVu Sans, Arial, Calibri y Times New Roman, en distintos tamaños y en estilos normal, negrita y cursiva.

Cada carácter recibió además un recuadro delimitador. Como las métricas automáticas de las fuentes suelen fallar con letras con diacríticos, los investigadores aplicaron correcciones a nivel de píxel según el carácter, el tamaño y la tipografía. El resultado fue de 1,3 millones de pares de imagen de línea (.tif) y archivo de texto con la respuesta correcta (.gt.txt).

Como base se usó el modelo ruso oficial rus.traineddata del repositorio tessdata_best. Dado que el alfabeto mansi coincide en gran parte con el ruso, la red debía aprender sobre todo las nuevas letras con macrón y la ӈ.

Apps que merecen la pena

SUMO: el puzle de números

Toca las casillas correctas, suma y alcanza el objetivo. Fácil de aprender, difícil de dominar. Gratis, para todas las edades.

Etiquetas:tesseractocrmansi languagehugging facelow-resource languagesyuniiit

Más de este día

Ver todas →

Más en: IA

Ver todas →