La historia de la IA

Redes de creencia profundas

Etapa 3 · Del auge experto al giro estadístico (1980–2011) › Redes neuronales

Linaje
Neuronas y redes
Tipo
Publicación

Quién

Universidad de Toronto

Qué ocurrió

Geoffrey Hinton, Simon Osindero y Yee-Whye Teh publican en Neural Computation «A Fast Learning Algorithm for Deep Belief Nets», un método para entrenar redes de muchas capas de una en una.

Qué aportó

El preentrenamiento capa a capa, sin etiquetas, permite entrenar redes profundas que antes no aprendían. Reactiva el campo con el nombre de aprendizaje profundo.

Desarrollo

A principios de los 2000 las redes neuronales estaban en segundo plano. Las redes con muchas capas eran difíciles de entrenar con retropropagación desde pesos aleatorios, y los métodos de núcleo daban resultados igual de buenos con más garantías. Hinton, en Toronto, siguió buscando una forma de que las redes profundas aprendieran.

La solución fue no entrenarlas de golpe. Cada capa es una máquina de Boltzmann restringida, sin conexiones entre unidades de la misma capa, y se entrena por separado para modelar las activaciones de la capa de abajo, sin necesidad de etiquetas. Cuando una capa ha aprendido, sus salidas sirven de datos para la siguiente. Al final, la red entera, ya con unos pesos razonables, se ajusta con un método más lento. Así se construyó una red de tres capas ocultas que clasificaba los dígitos de MNIST mejor que los mejores métodos discriminativos de entonces cuando a ninguno se le daba información sobre la forma de la imagen.

El mismo año, Hinton y Ruslan Salakhutdinov mostraron en Science que el método servía para reducir la dimensión de los datos mejor que el análisis de componentes principales. Juntos, estos trabajos convencieron a la comunidad de que las redes profundas se podían entrenar, y la etiqueta deep learning, que ya se había usado antes, se popularizó.

El preentrenamiento capa a capa se abandonó pocos años después, cuando se vio que con más datos, GPU y mejores funciones de activación se podía entrenar directamente. Pero fue la llave que reabrió la puerta.

Viene de

  • Máquina de Boltzmann (enero de 1985)

    Influencia directa documentada

    Cada capa de la red de creencia profunda es una máquina de Boltzmann restringida que se entrena por separado

Lleva a

Hilos que pasan por aquí

Bibliografía

Cómo citar

«Redes de creencia profundas». En La historia de la IA, revisión del 13 de noviembre de 2026. https://thehistoryofai.com/es/hito/deep-belief-nets

Última revisión de esta ficha: 13 de noviembre de 2026.

Abrir en la cronología interactiva