Desde cero10 lecciones · 2 h 36 min
Deep learning a secas
Redes neuronales desde la neurona, sin transformers
Vas a entender qué hace una red neuronal por dentro y cómo aprende de sus errores.
0%
Catálogo
Cada curso baja a tierra uno o más papers que hicieron historia. Filtra por nivel o tema.
Intermedio10 lecciones · 2 h 48 min
Álgebra lineal para LLMs
La matemática detrás de cada fórmula de un LLM
Vas a poder leer las fórmulas de un modelo de lenguaje sin trabarte en la notación.
0%
Intermedio10 lecciones · 2 h 34 min
LoRA y fine-tuning eficiente
Adaptar modelos gigantes con matrices de rango bajo
Vas a entender cómo se adapta un modelo gigante a una tarea tocando muy pocos números.
0%
Intermedio10 lecciones · 2 h 41 min
Optimizadores, con foco en AdamW
De descenso por gradiente a AdamW, escritos a mano
Vas a entender cómo un modelo corrige sus números, paso a paso, hasta aprender.
0%
Intermedio6 lecciones · 2 h 18 min
Transformers desde cero
Construye un GPT pequeño en PyTorch, línea por línea
Vas a armar un modelo de lenguaje en miniatura y entender cada pieza que lo hace escribir.
0%
Avanzado16 lecciones · 5 h 8 min
AI Alignment: de RLHF a la interpretabilidad
Cómo logramos que los modelos hagan lo que realmente queremos (y cómo lo verificamos)
Vas a entender cómo se logra que un modelo haga lo que queremos, y por qué todavía cuesta.
0%
Avanzado10 lecciones · 3 h 17 min
Attention Is All You Need
El paper que reescribió la IA, línea por línea
Vas a entender la idea que hizo posibles a los modelos de lenguaje actuales.
0%
Avanzado10 lecciones · 2 h 42 min
InstructGPT
De GPT-3 a un modelo que sigue instrucciones, paso por paso
Vas a entender cómo un modelo que solo completaba texto aprendió a seguir instrucciones.
0%
Experto10 lecciones · 2 h 38 min
Mixture of Experts
Más parámetros, mismo cómputo por token
Vas a entender cómo los modelos más grandes usan solo una parte de sí mismos en cada palabra.
0%
IntermedioPróximamente
BERT y el preentrenamiento bidireccional
Masked language modeling, explicado
BERT: Pre-training of Deep Bidirectional Transformers for Language U…
Devlin et al., 2018
AvanzadoPróximamente
CLIP y el aprendizaje contrastivo
Texto e imágenes en el mismo espacio
Learning Transferable Visual Models From Natural Language Supervision
Radford et al., 2021
AvanzadoPróximamente
Scaling Laws: de Kaplan a Chinchilla
Por qué los modelos crecen como crecen
Scaling Laws for Neural Language Models
Kaplan et al., 2020 · +1 papers
ExpertoPróximamente
Modelos de difusión desde el paper
DDPM: generar quitando ruido
Denoising Diffusion Probabilistic Models
Ho, Jain, Abbeel, 2020