La historia de la IA

A Mathematical Theory of Communication

Etapa 2 · Nace la IA (1943–1979) › Cibernética, información y computadores electrónicos

Linaje
Máquinas y cómputo
Tipo
Publicación

Quién

Bell Labs

Qué ocurrió

Claude Shannon publica en dos entregas del Bell System Technical Journal, en julio y octubre de 1948, una teoría matemática de la transmisión de mensajes. En 1949 sale como libro con un comentario de Warren Weaver.

Qué aportó

Define la información como algo medible, con el bit como unidad y la entropía como medida de la incertidumbre, y demuestra que cada canal tiene una capacidad máxima de transmisión sin errores.

Desarrollo

Los ingenieros de telecomunicaciones de los años cuarenta sabían mucho sobre señales, ruido y ancho de banda, pero no tenían una medida de lo que se transmitía. Shannon, que trabajaba en los Bell Labs, propuso separar por completo la información del significado: lo que importa es cuántos mensajes posibles hay y con qué probabilidad aparece cada uno.

La medida resultante, la entropía, se cuenta en bits, palabra que Shannon atribuye a su colega John Tukey y que aparece aquí por primera vez en una publicación. Un bit es la información que da la respuesta a una pregunta de sí o no con dos opciones igual de probables. Con esa medida, Shannon demostró dos resultados que fundaron la disciplina: un mensaje se puede comprimir hasta su entropía y no más, y todo canal con ruido tiene una capacidad por debajo de la cual se puede transmitir con un error tan pequeño como se quiera.

El artículo incluye además un experimento que anticipa los modelos de lenguaje actuales: genera texto en inglés eligiendo cada letra o palabra según la probabilidad de que siga a las anteriores, y muestra cómo las aproximaciones se van pareciendo al inglés real.

La teoría de la información se convirtió en la base de las telecomunicaciones digitales, la compresión de datos y la criptografía, y sus nociones de entropía y probabilidad condicionada recorren el aprendizaje automático hasta hoy.

Vídeos

Viene de

  • Cadenas de Márkov (1906)

    Influencia directa documentada

    Shannon modela la fuente de un mensaje como un proceso de Márkov y lo ilustra con aproximaciones al inglés letra a letra

  • Transmission of Information (julio de 1928)

    Influencia directa documentada

    La introducción cita a Nyquist y a Hartley como antecedentes y atribuye a Hartley la medida logarítmica de la información

  • Teorema de muestreo de Kotélnikov (1933)

    Convergencia independiente

    El teorema de muestreo aparece en el trabajo de Shannon sin referencia a Kotélnikov, cuyo artículo era desconocido fuera de la URSS

Bibliografía

Cómo citar

«A Mathematical Theory of Communication». En La historia de la IA, revisión del 13 de noviembre de 2026. https://thehistoryofai.com/es/hito/shannon-teoria-informacion

Última revisión de esta ficha: 13 de noviembre de 2026.

Abrir en la cronología interactiva