¿Te has preguntado alguna vez cómo se
entrena un modelo de lenguaje de chat GPT?
Pues en este vídeo te lo vamos a explicar en tres fases.
¡Empezamos!
La primera fase se denomina el modelo fundacional.
Todo arranca con lo que se llama preentrenamiento.
Aquí es donde el modelo empieza a aprender,
pero sin intervención humana directa.
A través de un proceso automático se generan
representaciones vectoriales, también conocidas
como embeddings, que le permiten al modelo entender el lenguaje.
En esta fase hay tres factores claves sobre
los que los equipos tienen que decidir.
Primero, el número de parámetros.
Básicamente se trata de cuánta capacidad va a tener el modelo.
Más parámetros significa mayor potencia,
pero también más coste computacional.
Segundo, la cantidad de tokens.
Los tokens son palabras, signos de
puntuación, incluso fragmentos de palabras.
Algunos equipos priorizan su cantidad, otros su calidad.
Todo depende de los recursos y del objetivo.
Y el tercero, la ventana de contexto, que
es el número de palabras que el modelo
puede tener en cuenta al mismo tiempo.
Cuanto mayor sea la ventana, mejor será la
comprensión del contexto, pero claro, también aumenta la complejidad.
Con estos tres ingredientes se construye el modelo fundacional.
Este modelo utiliza la arquitectura Transformer,
que permite captar relaciones semánticas
y estructurales en el lenguaje.
Transformer es generalista, es decir, puede
hacer de todo un poco, traducir, resumir, responder preguntas...
Pero claro, tanta generalidad también significa
que no es del todo preciso, lo que nos lleva a la segunda fase.
En la segunda etapa, denominada "ajuste del
modelo fundacional", el modelo se vuelve
a entrenar, pero esta vez con datos más específicos.
Por ejemplo, se puede adaptar el lenguaje
médico o una variante concreta del español.
Este Paso requiere supervisión humana y se
puede hacer de dos formas principalmente.
Ajuste por anotación y clasificación, que
consiste en etiquetar conceptos o clasificar
textos para que el modelo identifique patrones.
Ajuste por órdenes o prompting, consiste
en dar instrucciones y ejemplos para que el modelo aprenda.
Veamos un ejemplo.
Primero, se le proporciona una instrucción
al modelo, después se introducen los
datos de entrada y para terminar se le
muestra el resultado de salida correcto.
Este Paso no es tan costoso como el
preentrenamiento, pero sigue siendo complejo.
Se necesita personal especializado y datos de calidad.
Por eso no siempre está al alcance de todos.
Y aquí es cuando pasamos a la tercera fase,
en la que el modelo se afina para tareas muy concretas.
Te lo demuestro con un ejemplo.
Imagina que queremos desarrollar un buscador
de relaciones de causa y efecto en noticias financieras.
Primero, tendríamos que proporcionar la instrucción.
Después, tendríamos que dar la entrada y para
terminar le mostramos al modelo la salida.
Este tipo de personalización es una gran
oportunidad para pequeñas empresas, grupos de investigación o startups.
¿Por qué?
Pues porque pueden crear herramientas súper
especializadas para nichos donde las
grandes tecnologías no suelen llegar.
Por tanto, podríamos resumir las fases de
entrenamiento de un modelo de lenguaje en
preentrenamiento, ajuste general y ajuste específico.
Tres fases, una revolución tecnológica.
Así se entrena un modelo de lenguaje.
[Música]