Modelos de lenguaje: de predecir la siguiente letra a los LLM

Lo esencial

1. 1Un modelo de lenguaje da la probabilidad del siguiente token dados los anteriores. Con la regla de la cadena eso alcanza para todo un texto, y para escribir basta repetir: elegir un token, pegarlo al final y volver a preguntar. Se entrena con entropía cruzada por token y se mide con la perplejidad.
2. 2Un GPT es una pila de bloques transformer con máscara causal. Un mini-GPT de 470 000 parámetros entrenado un par de minutos en una CPU con Don Quijote pasa de escribir letras al azar a escribir palabras reales con el estilo del libro, aunque sin sentido.
3. 3Para elegir el siguiente token: codicioso (siempre el más probable; puede repetirse en bucle) o muestreo. La temperatura divide los logits: menor que 1 concentra la probabilidad en los favoritos, mayor que 1 la reparte. Top-k y top-p descartan las opciones improbables antes de muestrear.
4. 4Un LLM instruct como Qwen2.5-0.5B-Instruct pasa por preentrenamiento, ajuste por instrucciones y alineación, y conversa a través de una plantilla de chat con roles (system, user, assistant).
5. 5Los prompts concretos, con el formato pedido, con ejemplos y con la información necesaria funcionan mejor; se evalúan con varios casos y la salida se verifica con código.
6. 6Un LLM produce lo probable, no lo verdadero: puede inventar autores, fechas y cifras con total seguridad (alucinaciones). Los datos importantes se verifican en una fuente.