DDPM
Etapa 4 · Aprendizaje profundo y modelos fundacionales (2012–2021) › Modelos generativos de imagen
- Linaje
- Neuronas y redes
- Tipo
- Publicación
Quién
Universidad de California en Berkeley
Qué ocurrió
Jonathan Ho, Ajay Jain y Pieter Abbeel, de Berkeley, presentan los modelos probabilísticos de difusión para eliminar ruido (DDPM), que generan imágenes de una calidad comparable a la de las mejores redes antagónicas.
Qué aportó
Convierte la difusión en un método práctico y estable para generar imágenes. Es la base de DALL·E 2, Imagen, Stable Diffusion y los generadores de vídeo posteriores.
Desarrollo
Cinco años después del artículo de Sohl-Dickstein, la difusión seguía siendo una idea elegante con resultados modestos. Ho, Jain y Abbeel encontraron cómo hacerla funcionar.
La clave fue una conexión con otra línea de trabajo, los modelos basados en puntuación de Yang Song y Stefano Ermon, que aprenden a eliminar ruido de los datos y generan muestras con dinámica de Langevin. Al entrenar la red para predecir el ruido que se había añadido a una imagen en cada paso, con una versión ponderada de la cota variacional, obtuvieron sus mejores resultados. El entrenamiento es estable, sin el difícil equilibrio de dos redes rivales de las GAN.
En el conjunto de imágenes CIFAR-10, el modelo alcanzó una puntuación Inception de 9,46 y una FID de 3,17, las mejores publicadas para modelos sin condiciones. En las imágenes de 256 por 256 píxeles de LSUN, la calidad fue comparable a la de ProgressiveGAN, una de las mejores redes antagónicas.
A partir de aquí la difusión ganó terreno con rapidez. En 2022 DALL·E 2, Imagen y Stable Diffusion, los generadores de imágenes que llevaron la técnica al gran público, eran modelos de difusión, y en 2024 Sora aplicó la idea al vídeo.
Una fila de cajas, de x0 (la imagen) a xT (ruido puro). Sobre ellas, una flecha hacia la derecha, «añadir ruido». Debajo, una flecha de color hacia la izquierda, «quitar ruido», que hace una red neuronal.
Nivel técnico
El proceso de ida añade ruido gaussiano en T = 1000 pasos, con una varianza βₜ que crece poco a poco, hasta que de la imagen solo queda ruido. Tiene una propiedad útil: xₜ se puede obtener directamente de x₀ con un solo cálculo, sin recorrer los pasos intermedios.
La red, una U-Net, recibe una imagen con ruido y el número de paso, y predice el ruido que se le añadió. La pérdida es el error cuadrático entre ese ruido y el real, ‖ε − ε_θ(xₜ, t)‖². Ho, Jain y Abbeel mostraron que esta forma simplificada de la cota variacional daba mejores muestras que la completa.
Para generar se parte de ruido puro y se aplica la red mil veces, quitando un poco de ruido en cada paso.
En comparación
| Rasgo | Autocodificador variacional (2013) | Red antagónica (2014) | Difusión (2020) |
|---|---|---|---|
| Cómo genera | Descodifica un punto tomado al azar del espacio latente | El generador convierte ruido en una imagen de una vez | Quita ruido a una imagen de ruido puro en muchos pasos |
| Cómo se entrena | Maximiza una cota inferior de la verosimilitud de los datos | Con un juego entre generador y discriminador | Aprende a predecir el ruido que se añadió |
| Pasos para generar una imagen | Uno | Uno | Muchos (mil en este artículo) |
Viene de
Primer modelo de difusión (12 de marzo de 2015)
Influencia directa documentada
DDPM define los modelos de difusión con el artículo de Sohl-Dickstein y otros, que cita como su origen, y muestra que pueden generar imágenes de alta calidad (introducción)
Modelos generativos basados en puntuación (12 de julio de 2019)
Influencia directa documentada
DDPM muestra que una parametrización de los modelos de difusión equivale a la eliminación de ruido a varios niveles con dinámica de Langevin templada de Song y Ermon, y la cuenta entre sus aportaciones principales (apartado 1)
Lleva a
DALL·E 2 (6 de abril de 2022), Stable Diffusion (22 de agosto de 2022)
Influencia directa documentada
El decodificador de DALL·E 2 es un modelo de difusión, y la difusión latente de Stable Diffusion aplica los modelos de difusión en un espacio comprimido; los dos artículos citan a Ho y otros (2020)
Hilos que pasan por aquí
- De la difusión al modelo de mundo (paso 1 de 7)
- Del ruido a la imagen (paso 4 de 7)
Bibliografía
Fuente original
- Denoising Diffusion Probabilistic Models (arXiv:2006.11239) (se abre en una pestaña nueva). Jonathan Ho, Ajay Jain y Pieter Abbeel, 2020
- Generative Modeling by Estimating Gradients of the Data Distribution (arXiv:1907.05600) (se abre en una pestaña nueva). Yang Song y Stefano Ermon, 2019
Cómo citar
«DDPM». En La historia de la IA, revisión del 13 de noviembre de 2026. https://thehistoryofai.com/es/hito/ddpm
Última revisión de esta ficha: 13 de noviembre de 2026.