PyTorch: tensores, autograd y el bucle de entrenamiento

Tema 18 · Fase 4, Redes neuronales · Toda la ruta

Lo esencial

  1. 1Un tensor de PyTorch es un arreglo como los de NumPy que además puede vivir en la GPU y recordar las operaciones que lo produjeron. Un lote de imágenes tiene forma (N, canales, alto, ancho), y reshape, permute, flatten, unsqueeze, cat y stack cambian esa forma sin cambiar los números.
  2. 2Autograd es la clase Valor del tema 17 hecha a escala: requires_grad=True arma el grafo, .backward() llena los .grad, y los gradientes se acumulan hasta que se ponen en cero.
  3. 3Un modelo es una clase de nn.Module con sus capas en __init__ y el camino de los datos en forward. nn.CrossEntropyLoss recibe logits y aplica el softmax por dentro.
  4. 4Dataset da ejemplos sueltos y DataLoader los agrupa en lotes mezclados. El bucle de entrenamiento es siempre zero_grad, adelante, pérdida, backward y step; para medir, eval() y no_grad().
  5. 5Las funciones entrenar() y evaluar() empaquetan ese bucle y se reutilizan en el resto de la ruta. Un MLP de unos cien mil parámetros acierta el 86 % de las prendas de prueba de FashionMNIST, y sus errores se concentran en camisas, poleras, chompas y abrigos.
  6. 6El mismo código corre en CPU o GPU moviendo modelo y datos con .to(device); las semillas fijas lo hacen reproducible, y state_dict guarda y carga el modelo entrenado.
Seguir con la teoríaIr directo al código

En la teoría

  1. La pregunta
  2. Actividad: formas de tensores
  3. Tensores: arreglos de NumPy con superpoderes
  4. Cambiar la forma
  5. Autograd: tu motor del tema 17, ya hecho
  6. Las prendas: FashionMNIST
  7. Datos listos para entrenar: Dataset y DataLoader
  8. El modelo: una clase de nn.Module
  9. El bucle de entrenamiento, a mano
  10. La función entrenar(): el bucle que usarás en toda la ruta
  11. La prueba final: matriz de confusión
  12. Guardar y cargar un modelo
  13. CPU o GPU
  14. Lo que aprendiste y lo que sigue