Glosario de IA
Preentrenamiento
La primera fase, y la más cara, de la creación de un modelo de lenguaje, en la que aprende de un enorme volumen de texto prediciendo el siguiente token.
Durante el preentrenamiento el modelo lee un conjunto de datos enorme —páginas web, libros, código y más— y aprende a predecir qué viene después. Ahí adquiere casi todo su conocimiento general y su dominio del lenguaje. Requiere una cantidad gigantesca de cálculo.
Después, el postentrenamiento (ajuste a instrucciones, aprendizaje por refuerzo con valoraciones humanas y entrenamiento de seguridad) convierte el modelo en bruto en un asistente útil que sigue instrucciones.
Ejemplo: Recién preentrenado, un modelo sabe completar «La capital de Francia es…», pero si le pides «escríbeme un correo de disculpa» puede limitarse a seguir el texto en vez de obedecer. El postentrenamiento le enseña a seguir instrucciones.
En la práctica
- Lo aprendido en el preentrenamiento se queda en la fecha de corte; para lo reciente hay que darle fuentes.
- Los datos de entrenamiento condicionan el modelo: idiomas, temas y sesgos.
- Por eso los modelos suelen rendir algo mejor en inglés que en idiomas con menos texto disponible.
Las dos fases, explicadas en cómo funcionan los LLM.