En junio de 2022, el proyecto de transcripción
del Diario de Madrid ya contaba con más de 200 páginas
procesadas manualmente, un volumen suficiente
como para comenzar a entrenar un modelo de reconocimiento de texto
manuscrito.
Recordemos los inicios del proyecto.
Para comenzar se utilizó un modelo
diseñado para textos teatrales del siglo de oro,
pero los periódicos del diario de Madrid
tienen otras características, muchas más cifras, abreviaturas
y un estilo más administrativo.
Por eso fue necesario ajustar el modelo para este nuevo dominio.
El objetivo, reducir el error por carácter
por debajo del 1%.
Lo que hacen los modelos de lenguaje,
como los que usa Transcribus,
es aprender cómo se distribuyen las palabras en los textos.
¿Pero cómo?
Pues viendo montones de textos, analizando patrones y repeticiones.
Transcribus, por ejemplo,
parte de un modelo que ya ha leído un corpus enorme
y luego lo ajusta con los textos concretos
que tú le das para entrenarlos según tus necesidades.
Una vez entrenado el modelo,
con ese corpus toca comprobar cómo rinde.
Y eso se hace aplicándolo a un conjunto de textos distintos,
llamados conjunto de validación.
Ahí medimos si el modelo está reconociendo bien
o si se está equivocando.
Eso sí.
Para detectar errores
necesitamos tener claro cuál sería el resultado correcto,
es decir, cuál es la transcripción que esperamos.
Sólo así podemos saber si el modelo lo ha hecho bien
o no tanto.
Se evaluaron varios parámetros clave en el entrenamiento,
como por ejemplo el número de épocas,
es decir,
cuántas veces ve el modelo cada página del diario
durante el entrenamiento,
o la composición de los conjuntos de entrenamiento
y validación.
Con solo 4 épocas el modelo ya lograba reconocer muchos caracteres,
especialmente números que antes fallaban.
El CER en entrenamiento fue excelente, 0,34%,
pero en validación subía al 3,93%,
así que aún había trabajo por hacer.
De este modo
se aumentó progresivamente la cantidad de documentos
y se amplió el entrenamiento con pruebas sucesivas.
La mejora continuó hasta la prueba 13.
Ahí, con 300 épocas y 176 páginas,
se logró el objetivo de un CER cercano a 1.
En ese punto
se detectaron algunas inconsistencias en las transcripciones,
debidas a diferencias entre anotadores.
Esto llevó a revisar y homogeneizar el corpus,
lo que también ayudó a estabilizar los resultados.
Y ahora viene lo interesante.
Durante el proceso,
Transcribus incorporó un nuevo modelo IA.
PyLaya.
Este sistema de reconocimiento ofrece dos grandes ventajas.
Por un lado,
permite ajustar directamente los parámetros del modelo
y, por otro,
ya no requiere que el layout esté segmentado de antemano.
Eso sí, sigue siendo necesaria una revisión manual
para corregir errores residuales.
Con todo esto, en enero de 2023 se publicó el modelo en la plataforma
Transcribus con el nombre Diario de Madrid 1788-1825.
Más adelante fue integrado en un modelo aún más ambicioso,
el Coloso Español, coordinado por el doctor
Álvaro Cuellar.
Y para terminar,
rescatamos un buen ejemplo del alcance de esta tecnología,
el poder atribuir con más precisión la autoría de textos históricos,
como el caso de La Francesa Laura,
hoy reconocida como obra de Lope de Vega.