Autocodificador variacional
Etapa 4 · Aprendizaje profundo y modelos fundacionales (2012–2021) › Modelos generativos de imagen
- Linaje
- Neuronas y redes
- Tipo
- Publicación
Quién
Universidad de Ámsterdam
Qué ocurrió
Diederik Kingma y Max Welling, de la Universidad de Ámsterdam, publican en arXiv «Auto-Encoding Variational Bayes», un método para entrenar con descenso del gradiente modelos con variables ocultas continuas. El modelo que resulta se conoce como autocodificador variacional.
Qué aportó
Un modelo que aprende a comprimir cada imagen en unas pocas variables con significado probabilístico y a generar imágenes nuevas a partir de ellas.
Desarrollo
Un autocodificador es una red que aprende a comprimir un dato, por ejemplo una imagen, en un vector pequeño y a reconstruirlo después. Sirve para resumir datos, pero no para crear otros nuevos: no hay forma de saber qué vectores producen imágenes con sentido.
Kingma y Welling plantearon el problema desde la estadística bayesiana. Suponen que cada imagen procede de unas pocas variables ocultas, y quieren aprender a la vez cómo se genera la imagen a partir de ellas y cómo deducirlas a partir de la imagen. Ese segundo cálculo era intratable, así que entrenan una red de reconocimiento que lo aproxima.
Un mes después, Danilo Rezende, Shakir Mohamed y Daan Wierstra, de DeepMind en Londres, publicaron por su cuenta un método equivalente. La aportación técnica común fue una reparametrización: en lugar de sortear las variables ocultas directamente, sortean un ruido fijo y lo transforman con los parámetros de la red. Con ese truco, la cota que se quiere optimizar se puede derivar y entrenar con el descenso del gradiente estocástico de siempre, y el método escala a conjuntos de datos grandes.
El resultado es un espacio de variables ocultas ordenado: puntos cercanos dan imágenes parecidas, y basta sortear un punto para generar una imagen nueva. La idea de trabajar en un espacio latente comprimido se convirtió en una pieza de muchos generadores posteriores: Stable Diffusion, por ejemplo, incluye un autocodificador variacional y genera sus imágenes en ese espacio reducido en lugar de píxel a píxel.
Lleva a
DALL·E y CLIP (5 de enero de 2021)
Influencia directa documentada
DALL·E convierte cada imagen en piezas con un autocodificador variacional discreto (dVAE), su primera etapa de entrenamiento (apartado 2)
Stable Diffusion (22 de agosto de 2022)
Influencia directa documentada
La difusión latente trabaja en el espacio de un autocodificador; una de sus variantes impone una ligera penalización KL «similar a un VAE», citando a Kingma y Welling
Hilos que pasan por aquí
- Del ruido a la imagen (paso 1 de 7)
Bibliografía
Fuente original
- Auto-Encoding Variational Bayes (arXiv:1312.6114) (se abre en una pestaña nueva). Diederik P. Kingma y Max Welling, 2013
- Stochastic Backpropagation and Approximate Inference in Deep Generative Models (arXiv:1401.4082) (se abre en una pestaña nueva). Danilo Jimenez Rezende, Shakir Mohamed y Daan Wierstra, 2014
Cómo citar
«Autocodificador variacional». En La historia de la IA, revisión del 13 de noviembre de 2026. https://thehistoryofai.com/es/hito/autocodificador-variacional
Última revisión de esta ficha: 13 de noviembre de 2026.