Glosario EN ⇄ ES
En IA, los papers se escriben en inglés. Aquí tienes cada término con su equivalente en español y una definición precisa.
- AlignmentAlineación
- El problema de lograr que un sistema de IA haga lo que sus diseñadores y usuarios realmente pretenden.Visto en: AI Alignment: de RLHF a la interpretabilidad →
- AttentionAtención
- Mecanismo que calcula, para cada posición, un promedio ponderado de los valores (values) de otras posiciones, con pesos dados por la similitud entre su query y las keys.Visto en: Attention Is All You Need →
- BPE (Byte Pair Encoding)Codificación por pares de bytes
- Algoritmo de tokenización que fusiona iterativamente el par de símbolos más frecuente hasta alcanzar el tamaño de vocabulario deseado.Visto en: Transformers desde cero →
- Causal maskMáscara causal
- Máscara que impide que una posición atienda a posiciones futuras; es lo que hace autoregresivo a un decoder.Visto en: Transformers desde cero →
- Constitutional AIIA constitucional
- Método que usa un conjunto de principios escritos para que el propio modelo critique y revise sus respuestas y genere preferencias (RLAIF).Visto en: AI Alignment: de RLHF a la interpretabilidad →
- Cross-attentionAtención cruzada
- Atención en la que las queries vienen del decoder y las keys/values del encoder (o de otra modalidad).Visto en: Attention Is All You Need →
- Cross-entropy lossPérdida de entropía cruzada
- Menos el logaritmo de la probabilidad asignada al token correcto, promediado; la pérdida estándar del modelado de lenguaje.Visto en: Transformers desde cero →
- DPOOptimización directa de preferencias
- Direct Preference Optimization: optimiza la política directamente sobre pares de preferencias, sin modelo de recompensa explícito ni RL.Visto en: AI Alignment: de RLHF a la interpretabilidad →
- EmbeddingRepresentación vectorial
- Vector denso aprendido que representa un token (u otra entidad) en un espacio continuo.Visto en: Transformers desde cero →
- Fine-tuningAjuste fino
- Continuar el entrenamiento de un modelo preentrenado sobre datos de una tarea o dominio específico.Visto en: LoRA y fine-tuning eficiente →
- KL penaltyPenalización KL
- Término que penaliza la divergencia entre la política entrenada y el modelo de referencia, para limitar la sobreoptimización.Visto en: AI Alignment: de RLHF a la interpretabilidad →
- KV cacheCaché de keys y values
- Guardar las keys y values ya calculadas durante la generación para no recomputarlas en cada paso.Visto en: Transformers desde cero →
- Label smoothingSuavizado de etiquetas
- Reemplazar el objetivo one-hot por una distribución que reserva algo de probabilidad para las demás clases.Visto en: Attention Is All You Need →
- LayerNormNormalización de capa
- Normaliza cada vector de activaciones a media cero y varianza uno, con escala y sesgo aprendidos.Visto en: Transformers desde cero →
- LogitsLogits
- Puntuaciones sin normalizar que produce el modelo para cada token del vocabulario, antes del softmax.Visto en: Transformers desde cero →
- Multi-head attentionAtención multicabeza
- Varias atenciones en paralelo sobre proyecciones distintas de menor dimensión, cuyas salidas se concatenan y proyectan.Visto en: Attention Is All You Need →
- Outer / inner alignmentAlineación externa / interna
- Externa: que el objetivo especificado capture lo que queremos. Interna: que el modelo aprendido persiga efectivamente ese objetivo.Visto en: AI Alignment: de RLHF a la interpretabilidad →
- Positional encodingCodificación posicional
- Señal que se suma (o se aplica) a los embeddings para que el modelo conozca el orden de los tokens, ya que la atención es invariante a permutaciones.Visto en: Attention Is All You Need →
- Query, Key, ValueConsulta, clave, valor
- Las tres proyecciones lineales de cada token en atención: la query pregunta, la key se compara con la query y el value es lo que se transmite.Visto en: Attention Is All You Need →
- Red teamingEquipo rojo
- Buscar activamente fallas y comportamientos dañinos de un modelo, de forma manual o automatizada.Visto en: AI Alignment: de RLHF a la interpretabilidad →
- Residual streamFlujo residual
- La suma acumulada que recorre las capas de un Transformer; cada bloque lee de ella y le suma su salida.Visto en: Transformers desde cero →
- Reward hackingHackeo de la recompensa
- Caso de specification gaming en RL: la política explota fallas de la función de recompensa.Visto en: AI Alignment: de RLHF a la interpretabilidad →
- Reward modelModelo de recompensa
- Modelo entrenado para predecir qué respuesta preferiría un humano; actúa como proxy de la recompensa real.Visto en: AI Alignment: de RLHF a la interpretabilidad →
- RLHFAprendizaje por refuerzo con feedback humano
- Entrenar un modelo de recompensa con preferencias humanas y optimizar la política contra él, típicamente con PPO y penalización KL.Visto en: AI Alignment: de RLHF a la interpretabilidad →
- RoPEEmbeddings posicionales rotatorios
- Rotary Position Embedding: rota pares de dimensiones de queries y keys según la posición, de modo que su producto punto depende solo de la distancia relativa.Visto en: Attention Is All You Need →
- Scalable oversightSupervisión escalable
- Técnicas para supervisar sistemas cuyas capacidades superan las de quien los evalúa.Visto en: AI Alignment: de RLHF a la interpretabilidad →
- Scaling lawsLeyes de escala
- Relaciones empíricas (leyes de potencia) entre pérdida, parámetros, datos y cómputo.Visto en: Scaling Laws: de Kaplan a Chinchilla →
- Self-attentionAutoatención
- Atención en la que queries, keys y values provienen de la misma secuencia.Visto en: Attention Is All You Need →
- Sparse autoencoderAutoencoder disperso
- Autoencoder con activaciones dispersas usado para descomponer activaciones de una red en features más interpretables.Visto en: AI Alignment: de RLHF a la interpretabilidad →
- Specification gamingExplotación de la especificación
- Cuando un sistema satisface la letra del objetivo sin cumplir su intención.Visto en: AI Alignment: de RLHF a la interpretabilidad →
- SuperpositionSuperposición
- Fenómeno por el cual una red representa más features que dimensiones tiene, usando direcciones casi ortogonales.Visto en: AI Alignment: de RLHF a la interpretabilidad →
- TemperatureTemperatura
- Factor que divide los logits antes del softmax: valores bajos concentran la distribución, valores altos la aplanan.Visto en: Transformers desde cero →
- TokenizationTokenización
- Conversión del texto en una secuencia de unidades discretas (tokens) de un vocabulario fijo.Visto en: Transformers desde cero →
- Top-p (nucleus) samplingMuestreo por núcleo
- Muestrear solo entre los tokens más probables cuya probabilidad acumulada alcanza p.Visto en: Transformers desde cero →
- WarmupCalentamiento
- Fase inicial del entrenamiento en la que la tasa de aprendizaje crece gradualmente para estabilizar la optimización.Visto en: Attention Is All You Need →
- Weight tyingPesos compartidos
- Usar la misma matriz para el embedding de entrada y la proyección de salida a logits.Visto en: Transformers desde cero →