Primer modelo de difusión
Etapa 4 · Aprendizaje profundo y modelos fundacionales (2012–2021) › Modelos generativos de imagen
- Linaje
- Neuronas y redes
- Tipo
- Publicación
Quién
Universidad de Stanford
Qué ocurrió
Jascha Sohl-Dickstein, Eric Weiss, Niru Maheswaranathan y Surya Ganguli proponen un modelo generativo inspirado en la termodinámica fuera del equilibrio: destruir la estructura de los datos poco a poco añadiendo ruido y aprender a reconstruirla al revés.
Qué aportó
El primer modelo de difusión. Cinco años después, la misma idea se convertirá en la base de los generadores de imágenes más usados.
Desarrollo
El problema de fondo de los modelos generativos era un compromiso: los modelos flexibles, capaces de representar datos complejos, eran difíciles de entrenar y de evaluar, y los que se podían manejar bien eran demasiado simples.
Sohl-Dickstein y sus colegas tomaron una idea de la física estadística. Si se añade ruido a una imagen en muchos pasos pequeños, su estructura se va borrando hasta quedar ruido puro, como una gota de tinta que se difunde en el agua. Ese proceso de ida es fácil de describir. Lo que el modelo aprende es el camino de vuelta: en cada paso, cómo quitar un poco de ruido para recuperar algo de estructura.
Como cada paso es pequeño, cada uno se puede aprender con un modelo sencillo, y encadenando miles de ellos se obtiene un generador muy flexible que sigue siendo manejable: se puede entrenar, sacar muestras de él y calcular probabilidades. Los autores publicaron también una implementación de código abierto.
Durante unos años la idea quedó en segundo plano frente a las redes antagónicas. Hizo falta el trabajo de Ho, Jain y Abbeel en 2020 para que la difusión mostrara todo lo que podía dar.
Lleva a
DDPM (19 de junio de 2020)
Influencia directa documentada
DDPM define los modelos de difusión con el artículo de Sohl-Dickstein y otros, que cita como su origen, y muestra que pueden generar imágenes de alta calidad (introducción)
Hilos que pasan por aquí
- Del ruido a la imagen (paso 2 de 7)
Bibliografía
Fuente original
- Deep Unsupervised Learning using Nonequilibrium Thermodynamics (arXiv:1503.03585) (se abre en una pestaña nueva). Jascha Sohl-Dickstein, Eric A. Weiss, Niru Maheswaranathan y Surya Ganguli, 2015
Cómo citar
«Primer modelo de difusión». En La historia de la IA, revisión del 13 de noviembre de 2026. https://thehistoryofai.com/es/hito/primer-modelo-difusion
Última revisión de esta ficha: 13 de noviembre de 2026.