La historia de la IA

Glosario

Glosario de la inteligencia artificial: 86 términos explicados sin dar nada por sabido, con el hito donde nace cada uno.

agente (agent)
Sistema que actúa en un entorno para lograr un objetivo. Observa, decide, actúa y vuelve a observar. En aprendizaje por refuerzo es quien aprende; en los modelos de lenguaje, un modelo que usa herramientas y encadena pasos sin que una persona dirija cada uno. ReAct. aprendizaje por refuerzo
álgebra de Boole (Boolean algebra)
Álgebra de dos valores, 0 y 1, con tres operaciones, «y», «o» y «no». Nació como cálculo de la lógica en el siglo XIX y es la base del diseño de todos los circuitos digitales. An Investigation of the Laws of Thought. relé
algoritmo (algorithm)
Procedimiento definido paso a paso que, aplicado a unos datos, llega a un resultado en un número finito de pasos sin necesidad de ingenio. Church y Turing dieron en 1936 las primeras definiciones matemáticas precisas de la idea. On Computable Numbers. máquina de Turing, cálculo lambda
alineamiento (alignment)
Campo que estudia cómo conseguir que un sistema de inteligencia artificial persiga los objetivos que sus diseñadores y usuarios quieren de verdad, y no una versión deformada de ellos.
aprendizaje automático (machine learning)
Rama de la inteligencia artificial en la que un programa mejora en una tarea a partir de datos o de experiencia, en lugar de seguir reglas escritas a mano para cada caso.. aprendizaje profundo, aprendizaje por refuerzo
aprendizaje con pocos ejemplos (few-shot learning)
Capacidad de un modelo de hacer una tarea nueva a partir de unos pocos ejemplos incluidos en la propia petición, sin cambiar sus pesos. GPT-3. modelo de lenguaje, preentrenamiento
aprendizaje no supervisado (unsupervised learning)
Aprendizaje a partir de datos sin etiquetas: nadie dice al modelo cuál es la respuesta correcta, y tiene que encontrar por sí mismo la estructura de los datos. Mapas autoorganizados de Kohonen. aprendizaje automático
aprendizaje por refuerzo (reinforcement learning)
Forma de aprendizaje en la que un agente prueba acciones en un entorno y recibe recompensas o castigos. Aprende qué conviene hacer en cada situación para acumular la mayor recompensa posible.. aprendizaje automático
aprendizaje profundo (deep learning)
Aprendizaje automático con redes neuronales de muchas capas. Cada capa transforma lo que recibe de la anterior, y la red aprende por sí misma qué rasgos de los datos importan.. red neuronal, aprendizaje automático
árbol de decisión (decision tree)
Modelo que clasifica haciendo una pregunta tras otra sobre los datos, por ejemplo si un valor supera un umbral, hasta llegar a una hoja con la respuesta. Se aprende a partir de ejemplos, eligiendo en cada paso la pregunta que mejor separa las clases. Árboles de decisión aprendidos
BLEU (bilingual evaluation understudy)
Medida automática de la calidad de una traducción que cuenta cuántos fragmentos de palabras coinciden con traducciones hechas por personas. Va de 0 a 100; cuanto más alta, más parecida a la humana.
búsqueda en árbol de Monte Carlo (Monte Carlo tree search)
Método para decidir una jugada que explora el árbol de partidas posibles por muestreo, jugando muchas partidas simuladas y dedicando más esfuerzo a las ramas que parecen mejores. Búsqueda en árbol de Monte Carlo. función de evaluación
cadena de Márkov (Markov chain)
Sucesión de estados en la que la probabilidad de pasar al siguiente depende solo del estado actual, no de cómo se llegó a él. Es la base de los primeros modelos estadísticos del lenguaje. Cadenas de Márkov. modelo oculto de Markov, proceso de decisión de Markov
cadena de pensamiento (chain of thought)
Los pasos intermedios que un modelo de lenguaje escribe antes de dar la respuesta. Al principio se obtenían pidiéndolos con ejemplos; desde 2024 los modelos de razonamiento se entrenan para producirlos. Cadena de pensamiento. modelo de razonamiento
cálculo lambda (lambda calculus)
Sistema formal de Alonzo Church en el que todo, hasta los números, se construye definiendo funciones y aplicándolas. Es una de las definiciones equivalentes de lo calculable y el antecedente de los lenguajes de programación funcionales. Cálculo lambda y problema irresoluble. algoritmo, máquina de Turing
capa oculta (hidden layer)
Capa de una red neuronal que no recibe los datos ni da la respuesta, sino que está entre las dos. En ella la red construye sus propias representaciones intermedias. Retropropagación de Rumelhart, Hinton y Williams. red neuronal, retropropagación
coma flotante (floating point)
Forma de guardar un número como unas cifras significativas y un exponente que indica dónde va la coma. Permite representar con pocas cifras números muy grandes y muy pequeños. Z3
conexión residual (residual connection)
Atajo que suma la entrada de un bloque de capas a su salida, de modo que las capas solo aprenden una corrección. Permite entrenar redes de muchas capas. ResNet. aprendizaje profundo
descenso de gradiente (gradient descent)
Forma de reducir el error de un modelo poco a poco. En cada paso se mueve cada parámetro un poco en la dirección en la que el error baja más deprisa.. retropropagación
destilación (distillation)
Entrenar un modelo, normalmente más pequeño, con las respuestas de otro más capaz, para que aprenda a imitarlo con menos coste.. modelo de lenguaje
diferenciación automática (automatic differentiation)
Cálculo exacto de las derivadas de un programa aplicando la regla de la cadena a cada operación. En el modo inverso se recorre el cálculo de la salida hacia la entrada y se obtienen todas las derivadas de una vez; la retropropagación es un caso de este modo. Diferenciación automática en modo inverso. retropropagación
diferencias temporales (temporal-difference learning)
Método de aprendizaje que corrige cada predicción con la predicción siguiente, sin esperar al resultado final. Diferencias temporales. aprendizaje por refuerzo
dimensión VC (VC dimension)
Medida de la flexibilidad de una familia de clasificadores, de Vapnik y Chervonenkis. Es el mayor número de puntos que la familia puede separar en dos clases de todas las formas posibles; las rectas del plano tienen dimensión 3. Teoría de Vapnik y Chervonenkis. sobreajuste
doctrina neuronal (neuron doctrine)
Teoría según la cual el sistema nervioso está formado por células independientes, las neuronas, que se comunican por contacto y no forman una red continua. La defendió Ramón y Cajal frente a la teoría reticular de Golgi. Doctrina neuronal. sinapsis
espacio latente (latent space)
Representación comprimida de los datos que un modelo aprende. Una imagen se reduce a una cuadrícula mucho más pequeña de números, y el modelo trabaja sobre ella en lugar de sobre los píxeles. Stable Diffusion. modelo de difusión
explosión combinatoria (combinatorial explosion)
Crecimiento tan rápido del número de posibilidades al alargar un problema, por ejemplo de caminos en una búsqueda, que examinarlas todas se vuelve imposible incluso para un computador. General Problem Solver
función de evaluación (evaluation function)
Fórmula que da una puntuación a una posición de un juego, por ejemplo cuánta ventaja tienen las blancas, sin jugar la partida hasta el final. Deep Blue vence a Kaspárov
GDT (global distance test)
Puntuación de 0 a 100 que mide cuánto se parece la estructura predicha de una proteína a la real, según el porcentaje de aminoácidos que quedan cerca de su posición verdadera. Es la medida principal del concurso CASP. AlphaFold 1
GPU (graphics processing unit)
Procesador diseñado para dibujar gráficos, que hace muchas operaciones sencillas a la vez. Esa capacidad lo convirtió en la máquina habitual para entrenar redes neuronales.
gradiente que se desvanece (vanishing gradient)
Problema al entrenar redes profundas o recurrentes. Al retropropagar el error a través de muchas capas o pasos, el gradiente se multiplica una y otra vez por números pequeños y se acerca a cero, de modo que las primeras capas apenas aprenden. Si los números son grandes, se dispara. LSTM. retropropagación, LSTM
heurística admisible (admissible heuristic)
Estimación del coste que falta hasta la meta que nunca supera el coste real. Con ella, el algoritmo A estrella encuentra siempre el camino más corto. Algoritmo A*
interpretabilidad (interpretability)
Estudio de qué ocurre dentro de una red neuronal, de qué representan sus activaciones y de cómo llega a una respuesta, para poder comprobar por qué hace lo que hace. Rasgos interpretables en Claude 3 Sonnet. red neuronal, alineamiento
invierno de la IA (AI winter)
Periodo en que el interés y la financiación de la inteligencia artificial caen tras una etapa de expectativas excesivas. Se habla de dos, en los años setenta y a finales de los ochenta. Advertencia del «invierno de la IA»
inyección de instrucciones (prompt injection)
Ataque en el que un texto que el modelo lee mientras trabaja, como una página web o un correo, contiene órdenes escondidas que el modelo obedece como si vinieran de su usuario.. agente
ley del efecto (law of effect)
Principio formulado por Thorndike según el cual las conductas seguidas de una consecuencia satisfactoria se vuelven más probables en la misma situación. Es la raíz del aprendizaje por refuerzo. Ley del efecto. aprendizaje por refuerzo, reflejo condicionado
leyes de escala (scaling laws)
Relaciones medidas que predicen cómo baja el error de un modelo al aumentar sus parámetros, sus datos o el cómputo de entrenamiento. Siguen leyes de potencia, con rendimientos decrecientes. Leyes de escala. modelo de lenguaje
lógica difusa (fuzzy logic)
Lógica en la que una afirmación como «el tren va rápido» no es solo verdadera o falsa, sino que se cumple en un grado entre 0 y 1. Control difuso en el metro de Sendai
LSTM (long short-term memory)
Tipo de red recurrente con una celda de memoria y puertas que aprenden qué información entra, cuál se conserva y cuál sale. Recuerda durante cientos o miles de pasos, algo que las redes recurrentes simples no conseguían. LSTM. red recurrente, gradiente que se desvanece
máquina de Turing (Turing machine)
Modelo matemático de cálculo con una cinta de casillas, un cabezal que lee y escribe símbolos y una tabla de reglas finita. Todo lo que calcula un computador lo puede calcular, en principio, una máquina de Turing. On Computable Numbers. máquina universal, algoritmo
máquina de vectores de soporte (support-vector machine)
Clasificador que separa dos clases con la frontera que deja el mayor margen posible hasta los ejemplos más cercanos de cada lado, llamados vectores de soporte. Con el truco del núcleo separa también datos que no admiten una frontera recta. Máquinas de vectores de soporte. truco del núcleo
máquina universal (universal machine)
Máquina de Turing que recibe en su cinta la descripción de otra máquina y la imita paso a paso. Es la idea teórica del computador de programa almacenado, en el que programa y datos se guardan juntos. On Computable Numbers. máquina de Turing
marco de preparación (Preparedness Framework)
Documento en el que OpenAI define cómo mide los riesgos graves de sus modelos, en áreas como la biología o la ciberseguridad, y qué salvaguardas exige según el nivel de riesgo antes de publicarlos.. alineamiento
mecanismo de atención (attention mechanism)
Parte de una red neuronal que, al procesar un elemento de una secuencia, decide cuánto peso dar a cada uno de los demás. Así puede relacionar palabras alejadas entre sí. Mecanismo de atención. red neuronal
mezcla de expertos (mixture of experts)
Arquitectura en la que el modelo tiene muchos bloques especializados, los expertos, y un enrutador que elige unos pocos para cada token. El modelo tiene muchos parámetros, pero cada paso usa solo una parte, y eso lo abarata. Mixtral 8x7B. parámetro, token
minimax (minimax)
Forma de elegir jugada en un juego de dos rivales. Se puntúan las posiciones del final de la búsqueda y, al subir por el árbol, se toma el máximo en los turnos propios y el mínimo en los del rival, que se supone que también juega lo mejor posible. Programming a Computer for Playing Chess. función de evaluación, poda alfa-beta
mínimos cuadrados (least squares)
Método para ajustar un modelo a unas medidas con error que elige los parámetros que hacen mínima la suma de los cuadrados de las diferencias entre lo medido y lo predicho. Es la base de la regresión lineal. Método de mínimos cuadrados. verosimilitud, descenso de gradiente
modelo de difusión (diffusion model)
Modelo generativo que aprende a quitar ruido. Se entrena estropeando imágenes con ruido paso a paso y, para crear una nueva, parte de ruido puro y lo limpia poco a poco. Primer modelo de difusión
modelo de lenguaje (language model)
Modelo que asigna probabilidades a secuencias de palabras. Los actuales se entrenan para predecir el siguiente fragmento de un texto y, con eso, pueden escribir, traducir o responder preguntas.. token, preentrenamiento
modelo de mundo (world model)
Modelo que aprende cómo cambia un entorno y puede simular lo que pasará después, por ejemplo generando un mundo en vídeo que responde a las acciones de quien lo recorre. Genie 3
modelo de razonamiento (reasoning model)
Modelo de lenguaje entrenado con aprendizaje por refuerzo para escribir una cadena de pensamiento larga antes de responder. Cuanto más cálculo dedica a pensar, mejor suele resolver problemas de matemáticas y programación. OpenAI o1. cadena de pensamiento, aprendizaje por refuerzo
modelo de recompensa (reward model)
Red que aprende a puntuar comportamientos a partir de juicios humanos, como cuál de dos respuestas prefiere una persona. Sustituye a una recompensa escrita a mano en el aprendizaje por refuerzo. Aprendizaje por refuerzo a partir de preferencias humanas. aprendizaje por refuerzo, alineamiento
modelo de visión, lenguaje y acción (vision-language-action model)
Modelo que ve con una cámara, entiende instrucciones en lenguaje natural y responde con las órdenes de movimiento de un robot. Gemini Robotics. multimodal
modelo fundacional (foundation model)
Modelo grande entrenado con muchos datos generales que después se adapta a tareas muy distintas. El nombre lo propuso en 2021 un informe de la Universidad de Stanford. El término «modelo fundacional». preentrenamiento, modelo de lenguaje
modelo oculto de Markov (hidden Markov model)
Modelo de una secuencia de estados que no se ven, cada uno de los cuales produce observaciones que sí se ven, como los sonidos de una palabra y la señal de audio que producen. Modelos ocultos de Markov en el habla
multimodal (multimodal)
Se dice del modelo que trabaja con varios tipos de datos, como texto, imagen, audio o vídeo, en lugar de solo con texto.. modelo de lenguaje
parámetro (parameter)
Cada uno de los números que un modelo ajusta a partir de los datos. En una red neuronal son los pesos de sus conexiones, y el tamaño de un modelo de lenguaje se suele dar en miles de millones de parámetros.. red neuronal, preentrenamiento
perceptrón (perceptron)
Red neuronal de una sola capa de pesos ajustables. Suma sus entradas, cada una multiplicada por su peso, y responde sí o no según la suma supere un umbral. Perceptrón. red neuronal
pesos abiertos (open weights)
Se dice de un modelo cuyos parámetros entrenados se publican para que cualquiera pueda descargarlo, ejecutarlo y adaptarlo. No implica que se publiquen los datos ni el código de entrenamiento, y la licencia puede poner condiciones. LLaMA. parámetro
poda alfa-beta (alpha-beta pruning)
Técnica para buscar en el árbol de jugadas de un juego que deja de explorar las ramas que no pueden cambiar la decisión, porque el rival nunca permitiría llegar a ellas. Deep Blue vence a Kaspárov
preentrenamiento (pre-training)
Primera fase del entrenamiento de un modelo, larga y con muchos datos generales. Después basta un ajuste corto para adaptarlo a una tarea concreta.. modelo de lenguaje
problema del marco (frame problem)
Dificultad de describir en lógica, sin enumerarlo todo, qué no cambia cuando se hace una acción. Lo plantearon McCarthy y Hayes en 1969. El problema del marco
proceso de decisión de Markov (Markov decision process)
Modelo matemático de un problema de decisión en el que, en cada paso, lo que pasa después depende solo de la situación actual y de la acción elegida. Es el marco del aprendizaje por refuerzo.. aprendizaje por refuerzo
prueba de Turing (Turing test)
Prueba que propuso Turing en 1950. Un interrogador conversa por escrito con una persona y una máquina ocultas y debe adivinar cuál es cuál; si la máquina lo engaña tan a menudo como una persona, se le reconoce la conducta inteligente. Computing Machinery and Intelligence
Q-learning (Q-learning)
Algoritmo de aprendizaje por refuerzo que aprende, para cada situación y cada acción, cuánta recompensa futura cabe esperar. No necesita un modelo del entorno y aprende la mejor forma de actuar aunque, mientras explora, el agente no siempre actúe así. Q-learning. aprendizaje por refuerzo, diferencias temporales
realimentación (feedback)
Bucle en el que la salida de un sistema se mide y vuelve a la entrada. En la negativa, la diferencia entre lo medido y la meta corrige la acción, como hace un termostato o la mano que se acerca a un vaso. Behavior, Purpose and Teleology
red bayesiana (Bayesian network)
Grafo en el que cada nodo es una variable y cada flecha una dependencia directa, con las probabilidades de cada variable según sus causas. Permite razonar con incertidumbre. Redes bayesianas
red convolucional (convolutional neural network)
Red neuronal pensada para imágenes. Aplica los mismos filtros pequeños por toda la imagen, de modo que reconoce un rasgo esté donde esté. Red convolucional de LeCun. red neuronal, aprendizaje profundo
red generativa antagónica (generative adversarial network (GAN))
Pareja de redes que se entrenan compitiendo. Un generador fabrica muestras y un discriminador intenta distinguirlas de las reales; al final, el generador produce datos difíciles de diferenciar de los verdaderos. Redes generativas antagónicas. modelo de difusión
red neuronal (neural network)
Modelo de cálculo formado por muchas unidades sencillas conectadas entre sí, llamadas neuronas artificiales. Cada conexión tiene un peso, y la red aprende ajustando esos pesos con ejemplos. Neurona de McCulloch y Pitts. perceptrón, retropropagación, aprendizaje profundo
red recurrente (recurrent neural network)
Red neuronal en la que las señales circulan en bucle, de modo que guarda un estado de un paso al siguiente. Sirve para procesar secuencias como frases o sonido. LSTM. red neuronal
reflejo condicionado (conditioned reflex)
Respuesta que un animal aprende a dar ante una señal porque esa señal se ha presentado varias veces junto a un estímulo que ya provocaba la respuesta, como la saliva ante el sonido que anuncia la comida. El reflejo condicionado. ley del efecto
relé (relay)
Interruptor accionado por electricidad: cuando le llega corriente, abre o cierra otro circuito. Tiene dos estados, y por eso sirvió para construir con electricidad las operaciones del álgebra de Boole. Tesis de Shannon sobre circuitos de relés. álgebra de Boole
retropropagación (backpropagation)
Método para entrenar una red neuronal de varias capas. Calcula cuánto contribuye cada peso al error de la salida, recorriendo la red desde la salida hacia la entrada, y con ese dato se corrigen los pesos. Retropropagación de Rumelhart, Hinton y Williams. descenso de gradiente, red neuronal
RLHF (reinforcement learning from human feedback)
Aprendizaje por refuerzo con retroalimentación humana. Unas personas ordenan respuestas del modelo de mejor a peor, con esas preferencias se entrena un modelo de recompensa y el modelo de lenguaje aprende por refuerzo a sacar buena nota en él. InstructGPT. modelo de recompensa, aprendizaje por refuerzo, alineamiento
sinapsis (synapse)
Punto de contacto por el que una neurona transmite la señal a otra. Su fuerza cambia con la experiencia, y en una red neuronal artificial su equivalente es el peso de cada conexión. El término «sinapsis». red neuronal, doctrina neuronal
sistema experto (expert system)
Programa que resuelve problemas de un campo concreto, como el diagnóstico médico, aplicando reglas del tipo «si ocurre esto, entonces aquello» recogidas de especialistas humanos.
sistema formal (formal system)
Lenguaje de símbolos con unos axiomas y unas reglas exactas para deducir fórmulas nuevas a partir de ellos. En un sistema formal una demostración se puede comprobar de forma mecánica, sin apelar a la intuición. Principia Mathematica. algoritmo
sobreajuste (overfitting)
Defecto de un modelo que se ajusta tanto a sus datos de entrenamiento, ruido incluido, que acierta con ellos pero falla con casos nuevos.. aprendizaje automático
teorema de Bayes (Bayes' theorem)
Regla para actualizar la probabilidad de una hipótesis cuando llegan datos nuevos, a partir de lo que se creía antes y de lo probables que son esos datos si la hipótesis es cierta. Ensayo de Bayes. red bayesiana, verosimilitud
teorema de muestreo (sampling theorem)
Resultado según el cual una señal sin frecuencias por encima de un valor se puede reconstruir entera a partir de muestras tomadas al doble de esa frecuencia. Es la base de la conversión entre señales continuas y datos digitales. Teorema de muestreo de Kotélnikov
token (token)
Fragmento en que se divide un texto antes de dárselo a un modelo de lenguaje. Puede ser una palabra, una parte de una palabra o un signo de puntuación.. modelo de lenguaje
Transformer (Transformer)
Arquitectura de red neuronal construida solo con mecanismos de atención, sin recurrencia, que procesa todas las palabras de una secuencia a la vez. Es la base de los grandes modelos de lenguaje. Transformer. mecanismo de atención, modelo de lenguaje
truco del núcleo (kernel trick)
Técnica que permite a un algoritmo trabajar como si los datos estuvieran en un espacio de muchas más dimensiones, donde es más fácil separarlos, sin calcular nunca esa proyección. Basta con una función, el núcleo, que da directamente el producto escalar en ese espacio. Máquinas de vectores de soporte. máquina de vectores de soporte
vector de palabras (word embedding)
Lista de números que representa una palabra como un punto en un espacio de muchas dimensiones. Las palabras que aparecen en contextos parecidos quedan cerca. Modelo de lenguaje neuronal probabilístico. modelo de lenguaje
ventana de contexto (context window)
Cantidad de texto, medida en tokens, que un modelo de lenguaje puede tener en cuenta a la vez, sumando lo que recibe y lo que escribe. Lo que queda fuera de la ventana el modelo no lo ve.. token, modelo de lenguaje
verosimilitud (likelihood)
Probabilidad de los datos observados según un valor de los parámetros de un modelo. Estimar por máxima verosimilitud es elegir los parámetros con los que esos datos resultan más probables. Máxima verosimilitud. mínimos cuadrados, teorema de Bayes