Rutas de aprendizaje
Secuencias pensadas para no tener huecos conceptuales. Cada paso asume el anterior.
Fundamentos de LLMs
Del mecanismo de atención a entrenar tu propio GPT pequeño.
Para: Ingenieros de software y data scientists que usan LLMs y quieren entender qué pasa adentro.
- 1Avanzado
Attention Is All You Need
El paper que reescribió la IA, línea por línea
- 2Intermedio
Transformers desde cero
Construye un GPT pequeño en PyTorch, línea por línea
- 3IntermedioPróximamente
BERT y el preentrenamiento bidireccional
Masked language modeling, explicado
- 4AvanzadoPróximamente
Scaling Laws: de Kaplan a Chinchilla
Por qué los modelos crecen como crecen
Alignment y seguridad
Cómo se alinean los modelos hoy, y por qué todavía es un problema abierto.
Para: Quienes construyen productos con IA y necesitan razonar sobre comportamiento, riesgos y evaluaciones.
La frontera
Las ideas detrás de los modelos más grandes: escala, eficiencia y multimodalidad.
Para: Perfiles avanzados que quieren leer papers nuevos con soltura.
- 1AvanzadoPróximamente
Scaling Laws: de Kaplan a Chinchilla
Por qué los modelos crecen como crecen
- 2Experto
Mixture of Experts
Más parámetros, mismo cómputo por token
- 3Intermedio
LoRA y fine-tuning eficiente
Adaptar modelos gigantes con matrices de rango bajo
- 4AvanzadoPróximamente
CLIP y el aprendizaje contrastivo
Texto e imágenes en el mismo espacio
- 5ExpertoPróximamente
Modelos de difusión desde el paper
DDPM: generar quitando ruido