Modelos generativos basados en puntuación
Etapa 4 · Aprendizaje profundo y modelos fundacionales (2012–2021) › Modelos generativos de imagen
- Linaje
- Neuronas y redes
- Tipo
- Publicación
Quién
Universidad de Stanford
Qué ocurrió
Yang Song y Stefano Ermon, de Stanford, publican en arXiv un modelo que genera imágenes partiendo de ruido y siguiendo, paso a paso, la dirección en la que los datos se vuelven más probables. Se presenta como comunicación oral en NeurIPS 2019.
Qué aportó
Muestra que aprender a quitar ruido a varios niveles basta para generar imágenes de calidad comparable a las GAN. DDPM unirá esta idea con la difusión en 2020.
Desarrollo
En 2019 las GAN dominaban la generación de imágenes, con su difícil equilibrio entre dos redes. Song y Ermon buscaron otro camino: aprender la puntuación de los datos, es decir, el gradiente que indica en qué dirección cambiar una imagen para que se parezca más a las imágenes reales.
Estimar ese gradiente es difícil donde casi no hay datos, así que lo estimaron sobre versiones de los datos perturbadas con ruido gaussiano de varios niveles, con una sola red para todos ellos. Para generar, partían de ruido y aplicaban una dinámica de Langevin templada: avanzar según la puntuación estimada con niveles de ruido cada vez menores, a medida que la muestra se acerca a los datos reales.
El método no necesitaba entrenamiento antagónico ni sacar muestras durante el entrenamiento. En MNIST, CelebA y CIFAR-10 produjo imágenes comparables a las de las GAN, con una puntuación Inception de 8,87 en CIFAR-10, la mejor publicada hasta entonces para ese conjunto.
Un año después, Ho, Jain y Abbeel mostraron que una forma de parametrizar los modelos de difusión equivale a esta eliminación de ruido a varios niveles con dinámica de Langevin, y la consideraron una de sus aportaciones principales. Las dos líneas se fundieron en los generadores de imágenes posteriores.
Lleva a
DDPM (19 de junio de 2020)
Influencia directa documentada
DDPM muestra que una parametrización de los modelos de difusión equivale a la eliminación de ruido a varios niveles con dinámica de Langevin templada de Song y Ermon, y la cuenta entre sus aportaciones principales (apartado 1)
Hilos que pasan por aquí
- Del ruido a la imagen (paso 3 de 7)
Bibliografía
Fuente original
- Generative Modeling by Estimating Gradients of the Data Distribution (arXiv:1907.05600) (se abre en una pestaña nueva). Yang Song y Stefano Ermon, 2019
- Denoising Diffusion Probabilistic Models (arXiv:2006.11239) (se abre en una pestaña nueva). Jonathan Ho, Ajay Jain y Pieter Abbeel, 2020
Cómo citar
«Modelos generativos basados en puntuación». En La historia de la IA, revisión del 13 de noviembre de 2026. https://thehistoryofai.com/es/hito/difusion-por-puntuacion
Última revisión de esta ficha: 13 de noviembre de 2026.