La historia de la IA

Autocodificador variacional

Etapa 4 · Aprendizaje profundo y modelos fundacionales (2012–2021) › Modelos generativos de imagen

Linaje
Neuronas y redes
Tipo
Publicación

Quién

Universidad de Ámsterdam

Qué ocurrió

Diederik Kingma y Max Welling, de la Universidad de Ámsterdam, publican en arXiv «Auto-Encoding Variational Bayes», un método para entrenar con descenso del gradiente modelos con variables ocultas continuas. El modelo que resulta se conoce como autocodificador variacional.

Qué aportó

Un modelo que aprende a comprimir cada imagen en unas pocas variables con significado probabilístico y a generar imágenes nuevas a partir de ellas.

Desarrollo

Un autocodificador es una red que aprende a comprimir un dato, por ejemplo una imagen, en un vector pequeño y a reconstruirlo después. Sirve para resumir datos, pero no para crear otros nuevos: no hay forma de saber qué vectores producen imágenes con sentido.

Kingma y Welling plantearon el problema desde la estadística bayesiana. Suponen que cada imagen procede de unas pocas variables ocultas, y quieren aprender a la vez cómo se genera la imagen a partir de ellas y cómo deducirlas a partir de la imagen. Ese segundo cálculo era intratable, así que entrenan una red de reconocimiento que lo aproxima.

Un mes después, Danilo Rezende, Shakir Mohamed y Daan Wierstra, de DeepMind en Londres, publicaron por su cuenta un método equivalente. La aportación técnica común fue una reparametrización: en lugar de sortear las variables ocultas directamente, sortean un ruido fijo y lo transforman con los parámetros de la red. Con ese truco, la cota que se quiere optimizar se puede derivar y entrenar con el descenso del gradiente estocástico de siempre, y el método escala a conjuntos de datos grandes.

El resultado es un espacio de variables ocultas ordenado: puntos cercanos dan imágenes parecidas, y basta sortear un punto para generar una imagen nueva. La idea de trabajar en un espacio latente comprimido se convirtió en una pieza de muchos generadores posteriores: Stable Diffusion, por ejemplo, incluye un autocodificador variacional y genera sus imágenes en ese espacio reducido en lugar de píxel a píxel.

Lleva a

  • DALL·E y CLIP (5 de enero de 2021)

    Influencia directa documentada

    DALL·E convierte cada imagen en piezas con un autocodificador variacional discreto (dVAE), su primera etapa de entrenamiento (apartado 2)

  • Stable Diffusion (22 de agosto de 2022)

    Influencia directa documentada

    La difusión latente trabaja en el espacio de un autocodificador; una de sus variantes impone una ligera penalización KL «similar a un VAE», citando a Kingma y Welling

Hilos que pasan por aquí

Bibliografía

Cómo citar

«Autocodificador variacional». En La historia de la IA, revisión del 13 de noviembre de 2026. https://thehistoryofai.com/es/hito/autocodificador-variacional

Última revisión de esta ficha: 13 de noviembre de 2026.

Abrir en la cronología interactiva